Автор bmlabs 
OpenAI значительно усилила меры безопасности, чтобы защитить свои системы искусственного интеллекта от несанкционированного доступа и минимизировать риски злоупотребления. Недавние изменения в «Системе готовности» представляют собой внутренний механизм для тщательной оценки безопасности новых моделей и определения необходимых мер предосторожности на всех этапах их разработки и внедрения.
Ключевое нововведение заключается в том, что OpenAI теперь фокусируется не столько на демонстрации возможностей своих моделей, сколько на выявлении и предотвращении критических рисков, таких как скрытое поведение, обход защитных механизмов и возможность самостоятельного воспроизведения ИИ. В случае появления на рынке «высокорискованных» систем от конкурентов без адекватных мер безопасности OpenAI оставляет за собой право корректировать собственные стандарты, однако заявляет, что такие изменения будут проходить через публичное признание, тщательную оценку рисков и сохранение защитных мер на самом высоком уровне.
Кроме того, компания внедряет новые технические подходы, такие как «делиберативное согласование» моделей, которое позволяет ИИ не просто следовать запрограммированным правилам, а принимать согласованные решения, учитывающие человеческие ценности и этические нормы. Это особенно важно в контексте развития искусственного общего интеллекта (AGI), где поддержание безопасности и этичности действий приобретает первостепенное значение.
OpenAI также осознаёт критику, связанную с возможным снижением стандартов или задержками в публикации отчетов по безопасности. В ответ компания подчёркивает приверженность прозрачности и ответственности, намереваясь оставаться на передовой линии в области безопасного и контролируемого использования ИИ.
Таким образом, последние шаги OpenAI направлены на повышение устойчивости своих систем к внешним угрозам, сохранение контроля над ИИ и предотвращение потенциально опасных сценариев эксплуатации технологий. Это комплексный подход безопасности, который отвечает современным вызовам и требованиям общества к развитию и внедрению искусственного интеллекта.