«ИИ может уничтожить человечество до конца десятилетия»: громкие заявления разработчиков Anthropic всколынули США

Мир цифровых технологий подошел к опасной черте, за которой научно-фантастические сценарии о выходе машин из-под контроля становятся предметом серьезных политических дебатов. Повод для паники дали не сторонники теорий заговора, а сами создатели передовых нейросетей. В США разгорелся небывалый резонанс вокруг заявлений исследователей ведущей IT-компании Anthropic, которые открыто предупредили: бесконтрольное развитие технологических систем может обернуться экзистенциальной катастрофой для всей цивилизации уже в ближайшие несколько лет.

Фокусное ключевое слово — регулирование искусственного интеллекта — мгновенно оказалось в центре внимания Конгресса США, Белого дома и ведущих мировых экспертов, заставив законодателей срочно пересмотреть подходы к безопасности IT-отрасли.

Тревожные прогнозы инсайдеров: «Вероятность катастрофы превышает 10%»

Хвиля эмоциональных обсуждений и споров в экспертной среде началась после того, как исследователь компании Anthropic Джейкоб Коксон объявил о своем уходе с должности и решил публично рассказать о настроениях внутри индустрии:

«Люди, которые создают ИИ, искренне верят, что он может убить всех нас до конца десятилетия».

Эти слова не были одиночным эмоциональным всплеском. Его коллега Эван Гюбингер подтвердил и детализировал эту позицию, подчеркнув, что риски гибели человечества — это не гипотетическая теория, а предмет математических расчетов специалистов:

«Мы действительно искренне верим, что ИИ может уничтожить всех людей. Лично я считаю, что вероятность этого составляет более 10% в течение следующего десятилетия».

К тревожным сигналам присоединились и другие авторитетные специалисты. Бывший исследователь Google DeepMind Джош Энгельс прямо заявил о полном отсутствии внешнего контроля над процессами разработки, отметив, что «в этой индустрии просто нет никого, кто взял бы на себя роль ответственного взрослого». А бывший руководитель группы безопасности Anthropic Джо Бентон предупредил, что технологии прогрессируют «слишком быстро, и человечество просто не успеет сориентироваться, если не начнет действовать прямо сейчас».

Подобные оценки перекликаются с предупреждениями, которые ранее озвучивал один из «крестных отцов» современного искусственного интеллекта Джеффри Хинтон. Он также оценивал риск уничтожения цивилизации примерно в 10%, подчеркивая, что время до возможного появления неконтролируемого суперинтеллекта стремительно сокращается.

Подробно с деталями резонансного расследования и реакцией общественности можно ознакомиться в первоисточнике на сайте ZN.ua.

Реакция Вашингтона: от требования экстренных заседаний до позиции Трампа

Признания разработчиков вызвали бурю в политических кругах Вашингтона, заставив представителей как Демократической, так и Республиканской партий объединить усилия. Сенатор-демократ Марк Келли призвал коллег «проснуться и наконец отнестись к этой угрозе с полной серьезностью». Сенатор-республиканец Тед Круз, возглавляющий профильный комитет Сената, заявил о необходимости немедленного принятия законодательных актов, способных предотвратить катастрофические сценарии. В Палате представителей даже звучали призывы созвать специальное экстренное заседание сразу после завершения парламентских каникул.

Однако позиция высшего руководства страны отражает иной приоритет. Президент США Дональд Трамп дал понять, что его гораздо больше волнует не гипотетическое вымирание человечества, а жесткая геополитическая и технологическая конкуренция:

«Меня волнует то, что если мы не победим в сфере ИИ, то окажемся в очень невыводном положении. Сейчас мы опережаем Китай с достаточно существенным отрывом».

Таким образом, Белый дом оказался перед непростым выбором: с одной стороны — необходимость жестко контролировать риски, с другой — страх затормозить национальную отрасль и уступить лидерство Пекину.

Что предлагают законодатели: независимый аудит и жесткие правила

На фоне давления общественности IT-гиганты пытаются продемонстрировать готовность к компромиссам. В Anthropic заявили, что продолжат проводить жесткие внутренние тесты на кибербезопасность и биологические риски, а глава OpenAI Сем Альтман на внутренних встречах намекнул на готовность при необходимости снизить темпы выпуска новых моделей.

Тем не менее, надеяться исключительно на добровольные обещания корпораций власти США больше не намерены. В Конгрессе идет активная работа над двупартийным законопроектом сенаторов Джона Туна и Эми Клобушар, который введет обязательное государственное регулирование искусственного интеллекта.

Основные предлагаемые нормы включают:

Обязательный независимый аудит: разработка самых мощных моделей должна проходить проверку с привлечением акредитованных Министерством торговли США экспертов.
Совместное тестирование безопасности: IT-компании будут обязаны тестировать алгоритмы совместно с уполномоченными урядовыми специалистами до момента их публичного релиза.
Штатные инициативы: штат Калифорния уже опередил федеральный центр, приняв первый в стране закон о внешней аудиторской проверке алгоритмов.

Для более подробного ознакомления с мировыми технологическими трендами, нормативными актами и их влиянием на общество читайте материалы на информационном портале moct.eu.

Эксперты в области технологического права сходятся во мнении: ближайшие годы станут решающими. Либо мировое сообщество выработает жесткие стандарты контроля и превентивной оценки безопасности, либо технологии выйдут на уровень, когда управлять ими станет практически невозможно.

Фото: pexels