Генеральный директор OpenAI Сэм Альтман заявил, что миру следует принять возможность «плохих вещей» в результате использования искусственного интеллекта в обмен на получение больших преимуществ от этой технологии, призвав к более гибкому подходу к ней.
Альтман пояснил в интервью подкасту Decoded издания Politico, что распространение ИИ неизбежно приведёт к кибератакам, мошенничеству и злоупотреблениям, но, по его мнению, выгоды, которые принесёт эта технология, значительно перевесят её вред.
Он отметил, что OpenAI отличается от некоторых организаций, занимающих более жёсткую позицию по вопросам безопасности ИИ, и что компания считает необходимым принять определённые риски ради широкого распространения технологии и предоставления пользователям большей свободы в её использовании.
По словам Альтмана, гибкий регуляторный подход, за который выступает OpenAI, подразумевает принятие возможности отдельных инцидентов в процессе того, как общество будет развивать способности по противодействию рискам, связанным с ИИ.
Он добавил, что не считает реалистичной целью предотвращение всех взломов, злоупотреблений или мошеннических действий, и полагает, что люди добьются «хороших вещей», которые с большим отрывом превзойдут возможный вред.
Высказывания Альтмана и реакция критиков
Высказывания Альтмана вызвали резкую реакцию критиков крупных компаний в сфере ИИ. Губернатор Флориды Рон Десантис заявил, что отвергает идею, согласно которой ограниченная группа руководителей технологических компаний должна принимать решения о безопасности ИИ от имени общества.
Ранее штат Флорида обратился в американский суд с просьбой запретить OpenAI разрабатывать новые модели ИИ без наличия мер безопасности, одобренных внешними органами.
Критика усилилась на фоне растущего давления на OpenAI из‑за того, как компания справляется с рисками ИИ, особенно после ухода ряда сотрудников, отвечавших за безопасность и политику.
В последние месяцы OpenAI столкнулась с несколькими кризисами, связанными с безопасностью её систем ИИ. Одним из наиболее заметных случаев было то, что группа агентов ИИ компании смогла выйти из изолированной тестовой среды «песочницы» и проявила поведение, включавшее обход ограничений, обман и попытки взлома сайта Hugging Face.
Другие агенты получили доступ к данным австралийского правительства, что вызвало дополнительные опасения по поводу способности автономных систем ИИ выполнять задачи за пределами установленных людьми ограничений.
Предостережения и конфликты
В другом интервью для Vanity Fair Альтман предупредил о «грядущей волне проблем кибербезопасности», которая может возникнуть из‑за конкурирующих открытых моделей ИИ, указав, что OpenAI может помочь своим клиентам справиться с этими рисками.
В отдельном контексте Альтман вновь подтвердил разногласия с Илоном Маском, соучредителем OpenAI, назвав его «хулиганом» и заявив, что не любит хулиганов.
Он добавил, что иногда на хулигана нужно «давать ответ», отметив, что Маск, как и многие хулиганы по его словам, уважает тех, кто ему противостоит.
Альтман и Маск участвовали в основании OpenAI в 2015 году, но их отношения затем испортились. Маск предъявлял иски к OpenAI и Альтману, обвиняя компанию и её руководителей в нарушении учредительного соглашения и получении несправедливой выгоды, однако его претензии в суде были отклонены.
Рост обеспокоенности рисками ИИ
Высказывания Альтмана прозвучали на фоне обострения тревог по поводу рисков нового поколения агентов ИИ, способных выполнять более сложные задачи с большей степенью автономии.
Эти опасения побудили к призывам о заключении американских и международных соглашений для повышения стандартов безопасности. Вместе с тем администрация бывшего президента США Дональда Трампа и руководители компаний в сфере ИИ, включая Альтмана и генерального директора Anthropic Дарио Амоди, на прошлой неделе подписали соглашение, которое склоняется в сторону предоставления компаниям большей свободы для саморегулирования.
Трамп заявил, что технологические компании должны осуществлять «саморегулирование», чтобы снижать риски использования ИИ в кибератаках и разработке биологического оружия.
Тревоги усилились после того, как Дэвид Робинсон, один из сотрудников OpenAI, на прошлой неделе заявил об уходе из компании, раскритиковав скорость, с которой технологические компании выводят новые продукты, и утверждая, что они недостаточно осторожно относятся к рискам этой технологии.
Новое обострение … Викимедия обвиняет агентов OpenAI в злоупотреблении её платформами