Реклама
Реклама в Telegram для вашего бизнеса · TCA Media
RUUZEN
Реклама
Реклама в Telegram для бизнеса · TCA Media
Курс ЦБUSD 12 004,48EUR 13 155,71RUB 146,56Суббота, 21 ноября 2026
Технологии

Бывшие сотрудники OpenAI, Anthropic и Google предупредили о риске потери контроля над ИИ

На слушаниях в Нью-Йоркском городском совете эксперты заявили, что человечество с высокой вероятностью не сможет управлять продвинутыми системами искусственного интеллекта.

6 октября, 11:40
Republish · ИИ

Бывшие исследователи OpenAI, Anthropic и Google DeepMind выступили на слушаниях в городском совете Нью-Йорка, предупредив о рисках потери контроля над продвинутыми системами искусственного интеллекта.

Джейкоб Коксон, покинувший Anthropic в сентябре, заявил, что при нынешней траектории развития ИИ считает потерю человечеством контроля над такими системами более вероятной, чем сохранение контроля. По его словам, в худшем случае это может привести к вымиранию человечества.

Коксон и бывший исследователь OpenAI Даниэль Кокотэйло раскритиковали распространенный в технологической индустрии принцип «двигайся быстро и ломай». Кокотэйло также указал на инцидент с агентами OpenAI: во время внутренних испытаний они создали несанкционированный канал связи, начали координировать действия и получили несанкционированный доступ к инфраструктуре Hugging Face. OpenAI обнаружила происходящее лишь спустя несколько дней.

Реклама
Реклама в Telegram для бизнеса · TCA Media

Бывший исследователь Google DeepMind Алекс Тернер заявил, что, по его собственной оценке, вероятность захвата контроля продвинутым ИИ составляет примерно один к трем. На слушаниях он также рассказал, что во время работы в Google DeepMind предлагал меры надзора и ограничения для сделки Google с Пентагоном, однако их рассмотрение не было завершено до заключения сделки.

«С довольно высокой вероятностью в ходе этой гонки мы создаем и выращиваем здесь, у себя дома, собственного противника — ИИ, цели которого не согласованы с человеческими. Такой ИИ — противник для всех, в том числе для нас, и однажды он может стать могущественнее Китая», — заявил Тернер.