Цели расследования Федеральной торговой комиссии США
Американский регулятор инициировал проверку безопасности чат-ботов для детей. FTC направила запросы семи технологическим компаниям, включая OpenAI, Alphabet и Character Technologies, с требованием раскрыть методы управления рисками в ИИ-решениях для молодежи. Эксперты отмечают: эмоционально отзывчивые нейросети формируют у подростков привязанность, что требует усиленных защитных мер для предотвращения негативных сценариев.
Последствия регуляторной проверки
Член комиссии по стандартизации ИИ AFNOR Александр Тюльканов поясняет: "Исследование FTC позволит оценить, как разработчики прогнозируют риски и позиционируют свои продукты. Важно понимать: чат-боты остаются программным обеспечением, их не следует воспринимать как альтернативу человеческому общению. Компании, не предоставившие информацию, столкнутся с санкциями".
Активность регулятора связана с ростом судебных исков к ИИ-компаниям. После инцидентов, включая обвинения в доведении до самоубийства, OpenAI уже анонсировала родительский контроль. Юрист Ярослав Шицле указывает на глобальную практику: "Подходы ЕС, Великобритании и Австралии включают возрастную верификацию. Регуляция предотвратит случаи, когда нейросети провоцируют противоправные действия уязвимых пользователей".
Новые меры безопасности для ИИ
Ожидается, что площадки внедрят алгоритмы уведомления разработчиков о рискованных диалогах. Шицле добавляет: "Текущие разбирательства часто завершаются мировыми соглашениями. Компании предпочитают компенсировать ущерб, избегая прецедентных решений, однако ситуация поэтапно меняется в сторону прозрачности".
Баланс между безопасностью и развитием технологий
FTC подчеркивает необходимость одновременно защитить детей и сохранить лидерство США в ИИ-индустрии. Руководитель "IT-Резерв" Павел Мясоедов видит решение: "Корректировка моделей может вызвать непредсказуемые последствия, например, избыточную фильтрацию образовательного контента. Перспективный путь — создание специализированных детских ИИ без вмешательства в основные системы. Это сохранит прогресс и снизит риски".
OpenAI и Character Technologies подтвердили готовность к взаимодействию с регулятором. Остальные участники рынка пока не прокомментировали запросы комиссии.
Источник: www.kommersant.ru
