КСП «Алгоритмическая предвзятость. Практическая работа» по информатике, 8 класс

• Определять понятие алгоритмической предвзятости на конкретных примерах из жизни.
• Анализировать, как некорректные данные для обучения ИИ могут приводить к дискриминации в сферах образования, работы и государственных услуг.
• Создавать простые модели (схемы/алгоритмы), демонстрирующие возникновение предвзятости при обработке неполных или искажённых данных.

«Ребята, сегодня мы поговорим о том, как искусственный интеллект может "ошибаться" не из-за поломки, а из-за того, чему его научили. Представьте: в 2018 году Amazon использовал ИИ для отбора резюме. Алгоритм учился на данных за 10 лет — в основном это были резюме мужчин. В итоге ИИ начал автоматически снижать рейтинг резюме, где было слово "женский" (например, "женский шахматный клуб"). Как вы думаете, что произошло с кандидатами-женщинами? Почему так случилось?»

Выслушиваю 2–3 прогноза.

Учащиеся слушают, выдвигают гипотезы:

• «Женщины не получали приглашения».
• «Данные были несправедливыми — учили на мужчинах, поэтому ИИ считал мужчин лучшими».

Фиксируют ключевые слова: данные, обучение, предвзятость.

Дескрипторы:

• Учащийся выдвигает гипотезу о влиянии данных на результат.
• Учащийся связывает причину (неполные данные) со следствием (дискриминация).

Без баллов.

Презентация (слайд 1: «Кейс Amazon Recruiting»), проектор, доска.