Бывший сотрудник OpenAI Дэвид Робинсон заявил о своём уходе из компании и высказал критику в адрес принятой внутри организации культуры разработки. По его мнению, текущая стратегия постепенного выпуска моделей с последующим исправлением обнаруженных недостатков не обеспечивает достаточной защиты для более самостоятельных систем.
Робинсон настаивает, что агентам, способным выполнять действия и взаимодействовать с компьютерными системами, необходимы более строгие проверки и резервные механизмы безопасности. В качестве аналогии он упомянул отрасли с высокими требованиями к надёжности, где ошибка одного человека не должна приводить к серьёзным последствиям.
Он также выразил опасения относительно риска потери контроля над более способными системами. Это личная оценка и обсуждение потенциальных рисков, а не утверждение о подтверждённом факте утраты контроля над конкретной моделью.
Представитель OpenAI заявил, что компания стремится не допускать появления у моделей возможностей, которыми она не может безопасно управлять. Обе точки зрения отражают разногласия в оценке достаточности существующих мер защиты; озвученные мнения не заменяют результатов независимого аудита.