Излишняя вера в искусственный интеллект из-за его популярности и угроза утечек данных, особенно под иностранным давлением, представляют главные риски этой технологии. Об этом на ЦИПР-2026 заявила президент группы InfoWatch Наталья Касперская.
Вызовы современного генеративного ИИ
Модератор напомнил Касперской, что ранее она называла ИИ-инструменты переоцененными, и запросил перечень недооцененных рисков промышленных систем ИИ.
""Переоцененность"" и ""широкое обсуждение"" — близкие понятия, — отметила Касперская. — Технологии ИИ на пике популярности, но решения в условиях хайпа принимать ошибочно.
Проблема импортозависимости и информационного суверенитета
Она подчеркнула: основная масса применяемых в стране генеративных моделей ИИ создана за границей; собственных разработок крайне мало. В промышленности обычно используют иностранные решения, что опасно утечками при работе вне защищенного периметра компании.
Риски утечки уникальных данных через ИИ
Касперская привела пример: одно предприятие передало ИИ данные о внутренних процессах для анализа, а конкуренты, применив хитроумные промты, извлекли эти секреты.
Целевая дезинформация как угроза
Второй риск, по ее мнению — наличие на стороне поставщиков субъектов, автоматически следящих за запросами. Выявив российское предприятие, они могут передавать ему скомпрометированные данные. Ответ выглядит корректным, но является специально сгенерированной ложью, — пояснила глава InfoWatch.
Ошибки ИИ и ложное доверие
Касперская указала на третий аспект: ИИ-модели вероятностны и могут выдавать недостоверные ответы (ошибаться). Однако из-за ажиотажа создается ошибочное чрезмерное доверие к их результатам.
Неконтролируемое применение ИИ сотрудниками
Эксперт также обратила внимание на риски нерегламентированного использования генеративного ИИ внутри компаний. Сотрудники, самостоятельно приобретая доступ к моделям для работы, создают угрозы безопасности. Даже при ограничениях, из лучших побуждений, они способствуют утечке информации.
В InfoWatch провели внутренний опрос разработчиков о применяемых моделях ИИ, — поделилась Касперская. — Узнав их ответы (около 150 человек), мы открыли спектр неучтенных практик, о которых не догадывались.
Признав преимущества ИИ, особенно в скорости, она призвала осознавать текущие риски: они существуют, серьезны и пока не устранены. Обсуждать их и меры противодействия начали недавно, несмотря на всю популярность ИИ. Нам предстоит открыть эту дверь и найти пути управления будущими технологиями безопасности, — подытожила Касперская.
Источник: lenta.ru
