Гонка технологических гигантов по разработке все более мощного искусственного интеллекта может иметь пагубные последствия, предупредил профессор Монреальского университета, лауреат премии Тьюринга Джошуа Бенжио перед саммитом ИИ в Париже.

В парижском университете ENS Бенжио представил первый в истории международный доклад о безопасности в сфере ИИ, составленный под его руководством. В подготовке доклада приняли участие около 100 экспертов из 30 стран, а также эксперты Организации Объединенных Наций и Организации экономического сотрудничества и развития.
В своем выступлении Бенжио указал на риски ИИ, которые уже широко признаны, например, его использование для создания поддельного или вводящего в заблуждение контента в Интернете, при этом добавил, что «постоянно появляются доказательства дополнительных рисков, таких как биологические атаки или кибератаки».
В долгосрочной перспективе эксперт опасается возможной «потери человеком контроля» над системами ИИ, которые могут быть мотивированы «стремлением ИИ к выживанию».
«Больше всего меня пугает возможность того, что человечество может исчезнуть в течение 10 лет. Это ужасает. Я не знаю, почему больше людей не осознают этого», — заявил Бенжио.
Когда два года назад появился ChatGPT, эксперт «почувствовал острую необходимость задуматься над вопросом безопасности». Появление недорогой и высокопроизводительной китайской модели ИИ DeepSeek «ускорило гонку, что не способствует безопасности», добавил Бенжио.
Эксперт призвал к ужесточению международного регулирования и проведению более масштабных исследований в области безопасности ИИ, на который пока приходится «ничтожная доля» всех инвестиций, вкладываемых в этот сектор. «Я не знаю, как мы справимся с этим без вмешательства правительств», — резюмировал он.

Из открытых источников