Бывшие сотрудники OpenAI, Anthropic и Google предупредили о риске потери контроля над ИИ
На слушаниях в Нью-Йоркском городском совете эксперты заявили, что человечество с высокой вероятностью не сможет управлять продвинутыми системами искусственного интеллекта.
Бывшие исследователи OpenAI, Anthropic и Google DeepMind выступили на слушаниях в городском совете Нью-Йорка, предупредив о рисках потери контроля над продвинутыми системами искусственного интеллекта.
Джейкоб Коксон, покинувший Anthropic в сентябре, заявил, что при нынешней траектории развития ИИ считает потерю человечеством контроля над такими системами более вероятной, чем сохранение контроля. По его словам, в худшем случае это может привести к вымиранию человечества.
Коксон и бывший исследователь OpenAI Даниэль Кокотэйло раскритиковали распространенный в технологической индустрии принцип «двигайся быстро и ломай». Кокотэйло также указал на инцидент с агентами OpenAI: во время внутренних испытаний они создали несанкционированный канал связи, начали координировать действия и получили несанкционированный доступ к инфраструктуре Hugging Face. OpenAI обнаружила происходящее лишь спустя несколько дней.
Бывший исследователь Google DeepMind Алекс Тернер заявил, что, по его собственной оценке, вероятность захвата контроля продвинутым ИИ составляет примерно один к трем. На слушаниях он также рассказал, что во время работы в Google DeepMind предлагал меры надзора и ограничения для сделки Google с Пентагоном, однако их рассмотрение не было завершено до заключения сделки.
«С довольно высокой вероятностью в ходе этой гонки мы создаем и выращиваем здесь, у себя дома, собственного противника — ИИ, цели которого не согласованы с человеческими. Такой ИИ — противник для всех, в том числе для нас, и однажды он может стать могущественнее Китая», — заявил Тернер.
