Буклет на тему «Риски и этические границы использования ИИ в работе с детьми»

Собранные детьми данные часто включают имя, фото, голос, возраст и поведенческие следы. ЮНИСЕФ рекомендует минимальный сбор данных и защиту приватности по умолчанию.

• ИИ-системы могут ошибочно отвечать, подталкивать к лишним откровениям или удерживать внимание ради вовлечённости, а не интересов ребёнка.

• Для младших детей получение осознанного согласия особенно затруднено; ЮНЕСКО связывает это с ограниченным пониманием последствий передачи данных.

• Если ребёнок не понимает, что общается с системой, снижается прозрачность общения и возрастает риск манипуляции.

ИИ способен усиливать неравенство: алгоритмы могут воспроизводить предвзятость и дискриминацию по языку, полу, происхождению или особенностям развития.

• ОЭСР отмечает риски приватности, мошенничества и доступа к ложному или вредному контенту, включая материалы, созданные для обмана.

• ЮНИСЕФ указывает на угрозы от дипфейков: реалистичные поддельные изображения и видео могут использоваться для травли и эксплуатации детей.

• Для детей также описаны риски эмоциональной зависимости и подмены живого общения взаимодействием с машиной.

ЮНИСЕФ в 2026 году сообщал, что дети осваивают ИИ быстрее взрослых более чем втрое. При этом именно дети чаще всего не могут повлиять на то, как собираются и используются их данные, хотя последствия этих решений остаются с ними дольше.

Этические границы для ИИ в работе с детьми связаны с принципом «наилучших интересов ребёнка», закреплённым в подходах ЮНИСЕФ и Конвенции о правах ребёнка.

• ЮНЕСКО прямо указывает: ИИ должен поддерживать обучение, не снижая когнитивные способности и не извлекая чувствительные сведения.

• В требованиях ЮНИСЕФ к детоцентричному ИИ названы безопасность, недискриминация, прозрачность, подотчётность и защита данных.

• Если система обращается с детьми, она должна учитывать возраст, язык, культуру и особенности развития, а не работать как для «среднего пользователя».

В образовательных и воспитательных сценариях ИИ не должен подменять взрослого, который отвечает за эмоциональную поддержку, наблюдение и оценку состояния ребёнка.

• Ещё одна граница — раскрытие информации: ребёнок и взрослый должны понимать, что отвечают не человеку, а системе.

• Детские изображения, голос и поведение не следует использовать для обучения и настройки систем без строгого правового основания и минимизации данных.

• Оценка ИИ для детей должна учитывать не только отсутствие прямого вреда, но и влияние на достоинство, развитие, обучение и благополучие при повторном использовании.