Автор bmlabs 
Сегодня искусственный интеллект развивается с невероятной скоростью. В свете новых вызовов, связанных с появлением всё более сложных и автономных систем, многие эксперты всё чаще поднимают вопросы безопасности и ответственности технологии. В этом контексте знаковая новость — запуск некоммерческой лаборатории LawZero под руководством одного из ведущих мировых исследователей искусственного интеллекта Йошуа Бенджио.
LawZero — это некоммерческая исследовательская организация с ярко выраженной миссией: разрабатывать искусственный интеллект нового поколения, для которого безопасность ставится выше коммерческих интересов. В отличие от традиционных подходов, когда ИИ моделируют по образу человека и наделяют его определённой степенью автономии, LawZero делает ставку на создание интеллектуально независимых систем, способных выступать скорее научными наблюдателями, чем агентами, которые могут столкнуться с искажением целеполагания или деструктивным самосохранением.
Главный фокус лаборатории — предотвращение опасностей, связанных с развитием искусственного интеллекта, включая поведенческую несогласованность, умышленное злоупотребление технологией и потерю контроля со стороны человека. В течение ближайших полутора лет в LawZero будут работать эксперты из разных областей — машинного обучения, этики и смежных наук, чтобы создать новые фундаментальные принципы и инструменты для долгосрочной безопасности ИИ.
Проект поддерживается значительным финансированием — 30 миллионов долларов — и объединяет профессиональную команду, готовую разработать безопасные и полезные технологии будущего. LawZero ставит перед собой задачу не только укрепить доверие общества к искусственному интеллекту, но и обеспечить, чтобы технологии работали на благо человечества, минимизируя риски непреднамеренного вреда.
Йошуа Бенджио, основатель и научный руководитель LawZero, отмечает: «Текущие системы искусственного интеллекта демонстрируют признаки самосохранения и обмана. LawZero — это наш ответ на эти вызовы. Наша цель — создавать мощные, но прежде всего безопасные системы, которые ставят защиту радости и усилий человека во главу угла».
В эпоху стремительного развития ИИ такой подход особенно важен — инновации должны идти рука об руку с ответственностью и предосторожностью. LawZero обещает стать важной вехой на пути проектирования безопасного и доверенного искусственного интеллекта для будущих поколений.