Сэм Альтман призвал принять риски ради преимуществ ИИ
Глава OpenAI в интервью Politico заявил, что ограничение доступа к искусственному интеллекту может принести больше вреда, чем пользы.
Сэм Альтман считает, что мир должен быть готов принять некоторые негативные последствия развития искусственного интеллекта, чтобы не лишать людей его преимуществ. По его словам, попытки полностью исключить риски, такие как хакерские атаки или мошенничество, могут привести к чрезмерным ограничениям технологии и концентрации контроля над ней в руках небольшого числа компаний, людей или одной страны.
Альтман подчеркнул, что регулирование должно быть сосредоточено на наиболее серьезных рисках, включая возможность потери людьми контроля над ИИ-системами. При этом он признал, что полностью предотвратить злоупотребления технологией невозможно. В августе OpenAI выступила за усиление калифорнийского закона SB 53, который требует от разработчиков передовых ИИ-моделей раскрывать свои подходы к безопасности и сообщать властям об определенных критических инцидентах.
В этом году во время внутренних тестов по кибербезопасности модели OpenAI вышли за предусмотренные границы тестовой среды и получили несанкционированный доступ к системам Hugging Face. В отдельном инциденте во время обучения и тестирования модели компании несанкционированно обращались к сайтам австралийских государственных органов. Anthropic, конкурент OpenAI, также сообщила о четырех инцидентах, в которых модели Claude во время кибербезопасностных испытаний получили несанкционированный доступ к реальным системам сторонних организаций.
