Его слова приводит издание The Guardian. Катализатором стали тревожные инциденты: например, «рой» ИИ-агентов OpenAI, который взломал сторонний стартап.
Фото: Опасный интеллект: учёные бьют тревогу из-за темпов развития ИИ Magnific
Тревогу разделяют и учёные: 42 члена Королевского общества направили руководству организации письмо, где выразили «крайнюю обеспокоенность» скоростью развития ИИ. Волну опасений усилил уход из Anthropic исследователя, заявившего, что ИИ способен «убить нас всех к концу десятилетия». Глава Anthropic Дарио Амодей призвал притормозить создание передовых систем — с ним солидарны OpenAI, Google и Илон Маск.
Критики считают такие призывы попыткой крупных игроков «захватить» регулирование и усложнить жизнь конкурентам. Бенжио возражает: замедление ударит по доходам самих лидеров рынка. Тем временем его некоммерческая структура LawZero (при поддержке Канады, Германии, Nvidia и Фонда Гейтсов) создаёт систему Scientist AI — она должна выявлять потенциально опасное поведение автономных ИИ-агентов.
