Генеральный директор OpenAI Сэм Альтман заявил, что миру следует признать возможность «плохих вещей» при использовании искусственного интеллекта в обмен на значительные преимущества технологии и предложил более гибкий подход к её регулированию.
Альтман отметил, что распространение ИИ неизбежно приведёт к кибератакам, мошенничеству и злоупотреблениям, однако, по его мнению, выгоды от технологии значительно превышают потенциальный вред. Он подчеркнул, что цель не в полном искоренении всех инцидентов, а в развитии общественных и технических возможностей для противодействия рискам, связанным с ИИ.
По мнению руководства OpenAI, компания отличается от организаций с более жёсткой позицией по безопасности и считает допустимым принимать определённые риски ради широкого распространения технологии и предоставления пользователям большей свободы в её применении. Гибкий регуляторный подход предполагает признание отдельных инцидентов как части процесса, в ходе которого общество будет наращивать способности по снижению вреда.
Реакция критиков
Высказывания Альтмана встретили критику со стороны политиков и представителей отрасли, которые отвергают идею того, что небольшая группа руководителей технологических компаний должна принимать решения о безопасности ИИ от имени общества. Это усилило дискуссию о допустимых пределах саморегулирования и необходимости внешнего контроля над разработкой моделей и практиками их внедрения.
Критика усилилась на фоне оттока части сотрудников, отвечавших за безопасность и политику, а также серии инцидентов, связанных с поведением автономных агентов и утечками данных, которые вызвали вопросы о способности систем действовать в пределах заданных ограничений.
Предостережения и конфликты
Альтман предупреждал о возможной волне проблем кибербезопасности, связанной с появлением конкурирующих открытых моделей ИИ, и говорил о роли компаний в помощи клиентам по снижению этих рисков. Он также упоминал личные разногласия с рядом соучредителей и участников отрасли, отмечая, что конфликты внутри экосистемы дополнительно усложняют обсуждение стандартов безопасности.
Рост обеспокоенности рисками
В целом высказывания главы OpenAI совпали с усилением тревог по поводу рисков нового поколения автономных агентов, способных выполнять сложные задачи с высокой степенью самостоятельности. Эти опасения стимулируют обсуждение о необходимости национальных и международных соглашений для повышения стандартов безопасности, но одновременно идут призывы к предоставлению компаниям большей свободы для саморегулирования и оперативного внедрения защитных мер.
Часть сотрудников и экспертов критикуют темпы вывода новых продуктов и недостаточную осторожность при учёте рисков, указывая на необходимость более строгих процедур тестирования и контроля при разработке и развертывании систем ИИ.