Нейросети – мощный инструмент, но использование его без соблюдения правил информационной безопасности может обернуться против вас. Об этом предупреждает Алексей Ахмеев, начальник управления информационной безопасности АО «Свой Банк».
«Только в умелых руках и с соблюдением всех требований безопасности нейросети будут на 100% эффективны и не создадут дополнительных рисков», – подчеркивает эксперт.
Важно помнить, что современные нейросети, хоть и хорошо обучены, принадлежат сторонним компаниям. Любая информация, которую вы им передаете, где-то хранится и обрабатывается.
«Раскрытие секретов компании или коммерческой тайны может привести к серьезным последствиям. Уже сейчас появляются новости об индексации поисковиками данных, отправленных в нейросети, и о сбоях в механизмах фильтрации ответов», – отмечает Ахмеев.
Еще одна опасность – отравление данных. Кибермошенники могут атаковать ИИ, чтобы заставить его выдавать ложные, опасные или предвзятые рекомендации.
Главное правило – никогда не отправляйте в нейросеть реальные данные, особенно персональные. Это поможет избежать раскрытия секретов и компрометации в случае взлома ИИ.
Перепроверяйте информацию. Всегда сверяйте ответы нейросети с информацией от профессионалов в конкретной области или в других нейросетях.
Ахмеев рекомендует использовать следующий запрос: «проверь на этичность и безопасность [текст результата], покритикуй, напиши пять рисков, которые могли пропустить». Анализ полученного результата поможет выявить возможные ошибки и опасности.
Будьте бдительны и используйте нейросети с умом.
