Автор bmlabs 
Бывший генеральный директор Intel начинает новое направление: оценка соответствия ИИ
Пэт Гелсингер, бывший генеральный директор Intel, неоднократно проявлял интерес к технологиям искусственного интеллекта. Недавно он вложился в британский стартап Fractile.ai, который занимается разработкой технологий для вычислений на уровне микросхем памяти. Однако более значимым может стать его новое направление: создание стандарта для оценки соответствия ИИ (AI alignment).
Что такое AI alignment?
AI alignment — это процесс гармонизации целей искусственного интеллекта с человеческими ценностями и этикой. Это направление крайне важно для того, чтобы ИИ не только выполнял задачи эффективно, но и делал это в соответствии с человеческими моральными и культурными стандартами.
Зачем создавать стандарт для оценки соответствия ИИ?
Создание стандарта для оценки соответствия ИИ позволит разработчикам и пользователям ИИ оценивать, насколько системы ИИ соответствуют человеческим ценностям. Это может включать измерение того, как ИИ принимает решения, реагирует на ситуационные задачи и управляет информацией. Это крайне важно для предотвращения потенциальных негативных последствий от использования ИИ.
Проблемы, связанные с ИИ
Одной из основных проблем в области ИИ является его энергопотребление и материальные затраты. Fractile.ai, в котором инвестирует Гелсингер, стремится решить эти проблемы, создав более эффективные и экономичные вычислительные системы. Однако это лишь одна сторона проблемы. Другой важной задачей является обеспечение того, чтобы ИИ соответствовал человеческим ценностям и не причинял вреда.
Возможные подходы к оценке соответствия ИИ
Для создания эффективного стандарта оценки соответствия ИИ могут быть использованы различные подходы:
— Случайный тест: Использование случайных сценариев для проверки реакции ИИ на неожиданные ситуации.
— Целевая оценка: Оценка того, насколько цели ИИ соответствуют человеческим ценностям и моральным стандартам.
— Предсказательная оценка: Оценка способности ИИ предсказывать последствия своих действий.
Влияние на индустрию
Если Гелсингер сможет создать эффективный стандарт для оценки соответствия ИИ, это может иметь значительное влияние на всю индустрию. Это позволит разработчикам создавать более надежные и безопасные системы ИИ, что будет способствовать увеличению доверия к ИИ со стороны пользователей. Также это может привести к более быстрому и широкому внедрению ИИ в различных отраслях, где безопасность и этика являются приоритетными.
Вывод
Пэт Гелсингер, через свои инициативы, демонстрирует глубокое понимание проблем, связанных с развитием ИИ. Создание стандарта для оценки соответствия ИИ может стать важным шагом в гармонизации развития ИИ с человеческими ценностями и этикой. Это позволит обеспечить более безопасное и эффективное использование ИИ в будущем.