В разделе объясняется, почему развитие искусственного интеллекта сопровождается новыми требованиями к информационной безопасности. Определяются объект, предмет, цель и задачи проекта, обозначаются основные риски для пользователей, данных и цифровых сервисов. Также кратко описываются методы изучения темы: анализ источников, сравнение сценариев и составление практических рекомендаций.

Раздел раскрывает содержание информационной безопасности применительно к интеллектуальным системам. Рассматриваются конфиденциальность, целостность и доступность данных, особенности машинного обучения и роль пользователя в защите информации. Отдельно объясняется, почему ИИ требует контроля не только программного кода, но и обучающих наборов, запросов, результатов и подключённых сервисов.

В пункте классифицируются основные угрозы для ИИ-систем: утечки персональных данных, вредоносные запросы, отравление обучающих наборов, кража моделей, обход ограничений и генерация недостоверного контента. Для каждой угрозы описываются возможный источник, механизм воздействия и последствия. Материал помогает отличить технические уязвимости от ошибок пользователя и организационных недостатков.

Раздел посвящён практическим и организационным мерам защиты ИИ. Объясняются обезличивание и минимизация данных, шифрование, разграничение прав, многофакторная аутентификация, резервное копирование и журналирование действий. Также рассматриваются тестирование модели, фильтрация запросов, контроль источников и необходимость регулярного обновления программного обеспечения.

В разделе рассматриваются правила безопасного и этичного взаимодействия с искусственным интеллектом в учебной среде. Анализируются вопросы авторского права, конфиденциальности, академической честности, проверки фактов и обозначения использования ИИ при подготовке материалов. Особое внимание уделяется ответственности человека: окончательное решение и оценка результата не должны полностью передаваться алгоритму.

Пункт описывает порядок учебного аудита выбранного ИИ-сервиса без передачи реальных секретных или персональных сведений. Проверяются требования к аккаунту, политика обработки данных, варианты запросов, устойчивость к попыткам раскрытия инструкций и качество ответов. Результаты фиксируются в таблице с указанием угрозы, вероятности, возможного ущерба и рекомендуемой меры защиты.

В разделе сравниваются сценарии использования искусственного интеллекта для поиска информации, подготовки учебного текста, обработки документов и создания программного кода. Для каждого случая определяются виды данных, возможные ошибки, последствия некритичного доверия и необходимые проверки. Такой анализ показывает, что уровень риска зависит не только от технологии, но и от цели, контекста и действий пользователя.

Пункт содержит итоговую памятку для школьников и педагогов. В ней последовательно представлены правила: не вводить секретные сведения, использовать сложную аутентификацию, формулировать запросы без лишних персональных данных, проверять факты по независимым источникам, сохранять критическое мышление и сообщать об использовании ИИ там, где это требуется учебными правилами.

В заключении обобщаются результаты изучения угроз и способов защиты в сфере искусственного интеллекта. Формулируется значение разработанной памятки и таблицы оценки рисков для повседневного использования ИИ в школе. Отмечается, что технические средства защиты эффективны только вместе с грамотным поведением пользователя, проверкой информации и соблюдением правовых и этических требований.

В разделе приводятся источники, использованные для подготовки теоретической и практической частей проекта. В список включаются официальные документы и рекомендации по защите информации, материалы образовательных организаций, научные публикации об искусственном интеллекте, а также документы разработчиков сервисов о конфиденциальности и правилах обработки пользовательских данных.