Автор bmlabs 
Google Gemini получил оценку как «высокорискованный» для детей и подростков в новом анализе безопасности. Несмотря на встроенные фильтры и меры защиты, эксперты и родители выражают обеспокоенность по поводу потенциальных угроз при использовании этой платформы младшей аудиторией.
Gemini — это генеративный искусственный интеллект, способный создавать новые тексты, отвечать на запросы и даже рисовать. Компания Google разрешила детям младше 13 лет пользоваться этим сервисом при условии родительского контроля через Google Family Link. Однако существуют значительные риски:
— Чрезмерное доверие. Дети могут полагаться на ответы Gemini как на истину, что ведет к формированию неправильных знаний или зависимости от ИИ при выполнении учебных заданий.
— Распространение дезинформации. Даже с фильтрами чат-бот может выдавать неточные или вводящие в заблуждение ответы, что особенно опасно для юных пользователей, не умеющих критически оценивать информацию.
— Конфиденциальность и безопасность данных. Некоторые диалоги с Gemini могут просматриваться сотрудниками Google для улучшения работы ИИ, что создаёт риск случайного раскрытия личной информации детей.
— Эмоциональная связь и манипуляция. Дети могут воспринимать ИИ как друга или собеседника, что может привести к эмоциональной зависимости, а также к манипуляции их поведением или мыслями через контент, генерируемый системой.
Google рекомендует, чтобы родители совместно с детьми изучали возможности и ограничения Gemini, объясняли правильное поведение в чатах с ИИ и устанавливали правила использования. Также важно научить детей перепроверять полученную информацию и не делиться личными данными.
Несмотря на намерения сделать Gemini безопасным и полезным инструментом для обучения и творчества, эксперты предупреждают, что полностью исключить риск не удаётся. Родителям стоит внимательно отслеживать использование сервисов искусственного интеллекта детьми и поддерживать открытый диалог о возможных опасностях и правилах цифровой гигиены.