Билл Гейтс предупредил: неконтролируемый ИИ может привести к гибели миллиарда людей
Билл Гейтс призвал власти США усилить контроль за развитием искусственного интеллекта. В интервью NBC он заявил, что одной саморегуляции технологических компаний недостаточно, а ИИ в руках людей с плохими намерениями способен привести к катастрофическим последствиям.
«Нам нужны правоохранительные органы и политики, которые будут участвовать в обсуждении того, какие меры защиты и мониторинг необходимы», сказал сооснователь Microsoft журналистке NBC Кристен Уэлкер. По его словам, такие требования должны стать обязательными.
Гейтс признает, что дополнительное регулирование создаст для индустрии новые издержки. При этом он считает, что оно не должно серьезно замедлить развитие технологий.
Самое жесткое предупреждение прозвучало в другой части интервью. Гейтс заявил:
ИИ способен при определенных обстоятельствах привести к событиям, которые станут причиной гибели миллиарда человек.
«Никогда еще не существовало настолько мощного оружия, как сочетание людей со злыми намерениями и новейших инструментов ИИ», добавил Гейтс.
Речь уже не только о гипотетическом будущем
В конце августа Гейтс опубликовал почти 6000 слов о рисках искусственного интеллекта и возможных последствиях его развития. Среди обсуждаемых сценариев эксперты называют использование ИИ для создания биологического оружия и развития ядерных конфликтов.
К требованиям замедлить развитие ИИ ранее присоединялись другие руководители технологической отрасли, включая Сэма Альтмана и Илона Маска.
При этом вокруг самой Microsoft уже идут споры о практическом использовании ИИ. Сотрудники компании и активисты требуют прекратить сотрудничество с израильскими военными, которые, согласно приведенным в Guardian данным, используют ИИ инструменты в Газе и Иране. Отдельно упоминается применение Microsoft Azure американским Министерством внутренней безопасности для мониторинга, задержаний и депортации мигрантов.
Получается довольно жесткий конфликт интересов. Руководители технологической индустрии говорят о необходимости защитных механизмов, пока продукты их компаний уже используются государственными структурами и военными.
Гейтс сам не собирается советоваться с ИИ о личной жизни
В конце интервью Уэлкер задала Гейтсу более бытовой вопрос: есть ли ситуации, когда он принципиально избегает использования ИИ.
Ответ оказался неожиданно простым:
«Я не использую его для личных отношений. Я не говорю: “Эй, ты меня любишь? Эй, я хороший парень?”»
Гейтс добавил:
«Я не общаюсь с ИИ. Он знает, что я очень серьезный человек».
В самой индустрии нет единого мнения
Предупреждение Гейтса появилось на фоне резкого усиления споров о темпах развития ИИ.
Глава Anthropic Дарио Амодеи выступил за замедление гонки и более широкое регулирование. Глава OpenAI Сэм Альтман призвал к международным стандартам для оценки возможностей ИИ, рисков и достаточности защитных механизмов, а также к сохранению человеческого контроля.
При этом Марк Цукерберг занял другую позицию. По его словам, ему не нужна общеотраслевая координация: каждая лаборатория должна самостоятельно определять, когда необходимо притормозить разработку и проверить безопасность своих систем.
Получается довольно странная картина. Крупнейшие игроки уже спорят не о том, существует ли риск вообще, а о том, кто должен его контролировать и насколько далеко должны заходить обязательные ограничения.
В Вашингтоне тоже нет единой линии
Здесь начинается самое интересное. Гейтс прямо требует федерального законодательства, но американские политики пока не демонстрируют единого подхода к этому вопросу.
Спикер Палаты представителей Майк Джонсон ранее говорил о необходимости «guardrails» и мер безопасности, однако не поддержал срочное возвращение Конгресса к разработке законодательства о темпах развития ИИ. Лидер большинства в Сенате Джон Тун также допускал регулирование, но в сентябре говорил, что принятие соответствующего законодательства до конца года остается неопределенным.
Одновременно Дональд Трамп выступал против дополнительных ограничений для ИИ и называл призывы к таким мерам «hoax», согласно Forbes.
На уровне отдельных штатов ситуация развивается быстрее. В Калифорнии, Мэриленде и Нью-Йорке власти уже предпринимают собственные шаги по регулированию ИИ.
Почему разговор о рисках ИИ стал громче
В сентябре бывший исследователь Anthropic Джейкоб Коксон после ухода из компании заявил, что разработчики ИИ «искренне считают, что он может убить нас всех к концу десятилетия». Коксон также обвинил компании в гонке к самосовершенствующемуся сверхинтеллекту.
Эти заявления стали частью более широкой дискуссии о том, насколько быстро компании наращивают возможности моделей и успевают ли системы безопасности за их развитием.
Гейтс в августе уже писал, что ИИ способен стать «величайшим из когда-либо созданных инструментов для выравнивания возможностей» или «худшим источником несправедливости». По его оценке, при нынешних темпах и направлении развития существует «очень высокая вероятность» негативного совокупного результата.
При этом Гейтс не призывает закрыть AI индустрию или остановить исследования. Его позиция гораздо конкретнее: обязательные правила, государственный надзор и мониторинг должны появиться до того, как технология станет еще мощнее.
Отдельно Guardian напоминает о скандале вокруг Джеффри Эпштейна. В июле внешний аудит, заказанный благотворительным фондом Гейтса, установил, что сотрудники и руководители организации в совокупности провели около 30 встреч с Эпштейном в период с 2011 по 2014 год. Гейтс не обвинялся в участии в преступлениях Эпштейна и заявлял, что сожалеет «о каждой минуте», проведенной с ним. Сейчас он остается председателем Gates Foundation, размер активов которой оценивается в $89 млрд.
