В разделе объясняется, почему безопасность искусственного интеллекта стала актуальной темой для школьников и общества. Формулируются проблема, цель и задачи доклада, обозначается связь между развитием цифровых сервисов и необходимостью защищать данные, проверять результаты алгоритмов и учитывать ответственность человека за использование технологий. Также кратко описываются методы работы с источниками и практическими примерами.

Раздел раскрывает содержание понятия «безопасность ИИ» и показывает, что оно включает несколько направлений: техническую защищённость, надёжность результатов, конфиденциальность данных, справедливость алгоритмов и контроль со стороны человека. Объясняется, почему безопасность должна обеспечиваться на всех этапах жизненного цикла системы — от сбора данных и обучения модели до внедрения и последующего мониторинга.

В пункте систематизируются наиболее распространённые угрозы, связанные с ИИ. Рассматриваются утечки персональной информации, кибератаки на модели, генерация фейков, мошенничество, ошибочные ответы, предвзятость и чрезмерная зависимость пользователя от автоматических рекомендаций. Для каждой угрозы описываются возможные последствия и условия, при которых риск становится особенно высоким.

Раздел посвящён принципам, которые помогают сделать применение искусственного интеллекта более безопасным: прозрачности, объяснимости, справедливости, конфиденциальности, надёжности и человеческому контролю. Поясняется, почему разработчик должен тестировать модель, ограничивать доступ к данным, фиксировать ошибки и предоставлять пользователю понятную информацию о возможностях и ограничениях системы.

В этом пункте рассматриваются основные международные документы и нормативные подходы к регулированию ИИ, включая рекомендации ЮНЕСКО по этике искусственного интеллекта и европейский AI Act. Объясняется риск-ориентированная модель регулирования, при которой требования зависят от возможного вреда системы. Отдельно отмечается значение защиты персональных данных и прав человека.

Раздел переводит теоретические положения в конкретные рекомендации для школьника. Описываются безопасная формулировка запросов, отказ от передачи чувствительных данных, проверка фактов по первоисточникам, распознавание сомнительных изображений и текстов, сохранение авторства и обозначение факта использования ИИ. Также приводится алгоритм действий при обнаружении ошибки или подозрительного результата.

В практической части предлагается разобрать несколько ситуаций: подготовку учебного сообщения с помощью чат-бота, создание изображения, похожего на реального человека, и передачу личных сведений неизвестному сервису. Для каждого примера определяются потенциальные угрозы, оцениваются последствия и сравниваются безопасный и небезопасный варианты поведения пользователя. Итоги анализа оформляются в виде краткой таблицы или памятки.

Пункт объединяет предложения по ответственному внедрению ИИ в учебную среду. Рассматриваются правила для учащихся, педагогов и администрации: использование проверенных сервисов, защита аккаунтов, запрет публикации чужих данных, указание помощи ИИ, проверка фактов и сохранение самостоятельности мышления. В завершении формируется краткий список действий, который можно применять перед отправкой или публикацией результата.

В заключении обобщаются результаты анализа и формулируется авторская позиция о том, что безопасность ИИ является совместной задачей разработчиков, организаций и пользователей. Подчёркивается необходимость сочетать технические меры, правовое регулирование и цифровую грамотность. Отдельно закрепляются главные рекомендации: не раскрывать чувствительные сведения, проверять ответы, учитывать возможную предвзятость и сохранять человеческий контроль над значимыми решениями.

В разделе приводятся 5–6 использованных источников, оформленных в едином библиографическом стиле. В список включаются официальные материалы ЮНЕСКО и Европейского союза, документы по защите персональных данных, публикации авторитетных научных или образовательных организаций и специализированные статьи о надёжности и этике искусственного интеллекта. Для каждого источника указываются автор или организация, название, год публикации и электронный адрес при наличии.