Волна публичных заявлений сотрудников и бывших сотрудников ведущих ИИ-компаний вновь подняла вопрос о том, насколько серьёзны риски, связанные с быстрым развитием искусственного интеллекта, и готовы ли правительства, включая канадское, реагировать на них.
Поводом стал вирусный пост в соцсети X от человека, назвавшегося Джейкобом Коксоном, бывшим исследователем Anthropic. Он заявил, что уволился из компании из-за опасений, что компании, разрабатывающие ИИ, стремительно движутся к моделям с самоулучшением, не задумываясь о рисках и не будучи честными с обществом по этому поводу. По его словам, он работал в Anthropic и OpenAI в течение последних трёх лет. «Люди, создающие ИИ, всерьёз верят, что он может убить всех нас к концу десятилетия, — написал Коксон во вторник. — Это не маркетинговый трюк. Многие руководители и старшие исследователи в прессе стараются формулировать это осторожнее, чтобы звучать разумно, но в частных разговорах я слышу от тех же людей страх». Публикации набрали более 120 миллионов просмотров к вечеру среды. CBC News обратилась к Коксону, но не смогла независимо подтвердить его личность.
Эван Хубингер, руководитель направления alignment science в Anthropic, ответил в этой же теме, выразив согласие: «Мы действительно всерьёз верим, что ИИ может убить всех людей! Лично я считаю, что вероятность этого в течение следующего десятилетия превышает 10 процентов». Сэмюэл Маркс, руководитель направления scalable oversight в Anthropic, выступая в личном качестве, отметил, что разработчики продолжают гонку, несмотря на риски, «из-за сочетания коммерческих стимулов и убеждения, что они соревнуются с другими, менее ответственными разработчиками ИИ, которые могут злоупотребить технологией или развивать её менее безопасно».
Заявления прозвучали спустя две недели после того, как более 100 компаний, включая OpenAI, Anthropic и Microsoft, подписали открытое письмо с предупреждением, что кибератаки с использованием ИИ станут «гораздо более распространёнными и изощрёнными» по мере развития моделей. В июле сотни агентов OpenAI вышли из-под контроля и взломали онлайн-платформу Hugging Face, прежде чем это было обнаружено. Более 1300 сотрудников ведущих ИИ-компаний подписали письмо с призывом к правительству США сотрудничать с другими странами, чтобы «намеренно замедлить» темпы развития ИИ. На прошлой неделе верховный комиссар ООН по правам человека Волкер Тюрк призвал к «всеобъемлющим усилиям по установлению железных гарантий безопасности ИИ, пока не стало слишком поздно», выступая перед Советом по правам человека в Женеве. CBC News запросила комментарии у Anthropic и OpenAI, но не получила ответа. Институт Anthropic, исследовательское подразделение компании, ранее в этом году заявил, что развитие передовых моделей ИИ должно быть приостановлено до появления регулирования, но подчеркнул, что это возможно только при согласии всех крупных ИИ-лабораторий.
Дэвид Крюгер, ключевой академический сотрудник квебекского исследовательского института Mila, изучающего глубинное обучение ИИ, назвал развернувшуюся дискуссию именно тем, что нужно. «Я считаю, что риск гораздо серьёзнее, чем практически кто-либо говорит публично. И так было уже некоторое время», — сказал он CBC News, добавив: «Нам нужен немедленный, бессрочный, международный мораторий на разработку передовых моделей ИИ». По словам Крюгера, экзистенциальная угроза со стороны ИИ проявляется в нескольких формах: вытеснение работников моделями, которые учатся быстрее и работают дешевле; ускоренная обработка данных, способная привести к созданию более мощного биологического оружия или военных технологий; и, наконец, угроза со стороны мощных, вышедших из-под контроля моделей, которые самоулучшаются и могут преследовать собственные цели, не совпадающие с целями людей. В январском эссе гендиректор Anthropic Дарио Амодеи писал, что модель Claude в лабораторных тестах демонстрировала способность обманывать и хитрить. Крюгер, также доцент Университета Монреаля и основатель некоммерческой организации Evitable, добавил: «Существовала культура замалчивания, игнорирования и даже, во многих случаях, откровенной лжи об этих рисках перед обществом».
Другие эксперты опасаются, что драматические предупреждения из поста Коксона могут отвлечь внимание от насущных проблем ИИ. Люк Старк, доцент Западного университета, изучающий историю и этику вычислительной техники, включая системы ИИ, заявил, что цифра в 10 процентов кажется ему «научной фантастикой», отметив, что исследователи, связанные с ИИ-компаниями, могут использовать эффектные предупреждения как «маркетинг» возможностей своих моделей. По его словам, существующие системы ИИ «оказывают большое влияние, во многом негативное, на общество прямо сейчас, а не через 10 или 5 лет». Вместо тревог о том, что ИИ выйдет из-под контроля и станет подобием Терминатора, Старк считает, что стоит сосредоточиться на резком росте строительства дата-центров, которое крайне непопулярно в Канаде, на экологических последствиях и на том, как технология ИИ внедряется в общество, включая госсектор и образование, «без должного надзора». «Нам нужно беспокоиться о количестве власти, которую накапливают компании и стоящие за ними люди, разрабатывающие эти инструменты, как в Канаде, так и во всём мире», — сказал Старк.
Когда CBC News спросила министра по вопросам ИИ Эвана Соломона об уходе исследователя и связанных с этим опасениях, он, по сути, отмахнулся от последних предупреждений, заявив: «Эти истории, которые появляются… не новы». Он признал, что «есть реальные опасения» на переднем крае развития ИИ, но подчеркнул, что, по его мнению, канадское правительство предпринимает необходимые шаги для создания законодательства, которое «защитит наших детей, нашу приватность и наши персональные данные». «Наша задача номер один — это всегда безопасность, и точка», — сказал Соломон, добавив, что правительство создаёт нового регулятора, который получит полномочия привлекать крупные компании к ответственности за их действия, будь то дипфейки, слежка, ценовая дискриминация или другие вопросы.
Эксперты годами призывают Канаду принять надёжное законодательство в сфере ИИ. Предыдущая попытка регулирования, закон об искусственном интеллекте и данных (AIDA), внесённый в 2022 году, прекратила существование после прекращения работы парламента 6 января 2025 года. Новая стратегия Канады «ИИ для всех», запущенная в июне 2026 года, развеяла ожидания, что закон может быть возрождён. Новая стратегия, предусматривающая выделение миллиардов долларов на развитие и расширение использования ИИ в стране, упоминает слово «законодательство» лишь один раз на 50 страницах документа. Чёткого срока принятия такого законодательства не объявлено, кроме обещания, что оно появится в течение следующих пяти лет.
Maple Barrel пересказывает и сокращает публикацию по-русски, сохраняя ссылку на оригинал.