Торонто
MapleBarrel Поддержать
Материал · Технологии и ИИ

Искусственный интеллект Grok нарушил законы Канады и создавал 6 тысяч сексуальных дипфейков в час: расследование

Global News 1 минута чтения
Искусственный интеллект Grok нарушил законы Канады и создавал 6 тысяч сексуальных дипфейков в час: расследование
Фото: Global News

Принадлежащий миллиардеру Илону Маску искусственный интеллект Grok нарушил канадские законы о конфиденциальности.

По данным расследования комиссара по вопросам конфиденциальности Филиппа Дюфресна, инструмент для генерации изображений запустили без надлежащих мер защиты. Это позволило пользователям создавать и распространять сексуализированные дипфейки, направленные в основном на женщин и детей.

По оценкам исследователей, на пике популярности Grok генерировал более 6,000 откровенных изображений в час, а всего были созданы миллионы подобных дипфейков. В связи с этим компании X Corp и xAI ввели новые защитные меры для снижения рисков и начали проводить проверки для удаления вредоносного контента. Страны вроде Великобритании и ЕС, а также штат Калифорния уже начали собственные расследования.

Комиссар рекомендовал компаниям принять дополнительные меры защиты, и они обязались предоставлять ежеквартальные отчеты и проходить независимый аудит. Проверки эффективности систем безопасности будут продолжаться до полного решения проблемы.

В свою очередь либеральное правительство Канады уже представило законопроект, который криминализирует создание сексуальных дипфейков без согласия.

Источник: Global News →
Maple Barrel пересказывает и сокращает публикацию по-русски, сохраняя ссылку на оригинал.
Читайте дальше

По теме

Раз в неделю · без лишнего

Канада за неделю - в одной картине

Главные темы, последствия и материалы, которые стоит сохранить. Отобрано и собрано редакцией Maple Barrel.