Учителя доверяют ИИ, даже когда он ошибается: исследование выявило опасную тенденцию

Люди менее склонны исправлять ошибки, если считают, что их допустил искусственный интеллект, а не другой человек. Об этом свидетельствуют результаты нового исследования, опубликованного в журнале PNAS Nexus.

Как пишет издание Education HQ, в основу работы лег эксперимент, в котором приняли участие более 1300 учителей из Греции. Он будет иметь важные последствия для школьного образования. В целом исследователи проанализировали, как педагоги реагируют на несправедливо заниженные оценки за работы учеников, если их выставила система ИИ, по сравнению с оценками, выставленными коллегой-учителем. Оказалось, что педагогам проще согласиться с несправедливой оценкой, когда ее выставил алгоритм.

Исследование провели доктор Софоклис Гулас из Йельского университета, профессор Ригисса Мегалоконому из Университета Монаша и доктор Панагиотис Сотиракопулос из Университета Кертина. По результатам исследования Мегалоконому поставила под сомнение представление о том, что одного лишь человеческого контроля достаточно для предотвращения ошибок ИИ.

"Учителя полагаются на результаты работы искусственного интеллекта, не подвергая их должным сомнениям, и ошибки просто остаются незамеченными и неисправленными. Помножьте это на тысячи учеников и классов – и вы увидите, как быстро это превращается в серьезную проблему", – предупредила исследовательница.

Выявленные закономерности указывают на новые вызовы для школ, где ИИ все чаще привлекают к планированию уроков, предоставлению обратной связи по работам, выявлению отстающих учеников и администрированию. Почти половина опрошенных (48%) использует такие инструменты по крайней мере еженедельно для подготовки к занятиям, но лишь 16% активно призывают коллег внедрять эти технологии.

Наименее склонными оспаривать строгую оценку ИИ оказались молодые учителя, педагоги с научными степенями и те, кто считает себя уверенными пользователями технологий. "Именно те люди, от которых мы ожидали наиболее критичного использования инструментов ИИ, оказались наиболее склонными соглашаться с заниженными оценками алгоритма. Это парадоксально и тревожно, ведь те, кто продвигает интеграцию ИИ в школах, меньше всего способны замечать его ошибки", – отметила Мегалоконому.

Сейчас исследователи разрабатывают специальную программу, чтобы научить учителей критически относиться к ИИ. По словам ученых, недостаточно просто сказать, что алгоритм может ошибаться – нужно подробно показать, как и когда человеческая оценка подвержена ошибочным выводам, и выработать привычку проверять работу системы.

Хотя педагоги готовы использовать ИИ в качестве помощника при планировании, они до сих пор скептически относятся к передаче ему оценочных функций. Их скептицизм основан на нюансах школьной жизни: оценивание часто требует учета контекста, которого у ИИ нет.

В комментариях учителя подчеркивали важность эмпатии и индивидуального подхода в случаях болезней, трудностей в обучении или сложной социальной среды учеников (например, когда речь идет о детях из семей беженцев, пострадавших от насилия или с зависимостями). Также звучали мнения, что ИИ хорошо подходит для точных наук, но не способен объективно оценивать гуманитарные предметы из-за отсутствия "эмоциональной гибкости".

Исследователи подчеркивают, что эти результаты оказывают прямое влияние на образовательную политику и ответственное использование алгоритмов в классах. Для этого необходимы следующие меры.

• Алгоритмы должны быть разработаны таким образом, чтобы сигнализировать не только о своей компетентности, но и об ответственности. Это заставит учителей относиться к советам ИИ с той же критичностью, что и к советам коллег.
• Программы повышения квалификации должны научить педагогов проверять и, при необходимости, корректировать решения алгоритмов. Тренинги по выявлению предвзятости и ошибок помогут сбалансировать уровень доверия.
• Рассматривание педагогов как соавторов и критических партнеров, а не пассивных пользователей, гарантирует, что ИИ будет дополнять, а не заменять профессиональное суждение.

В настоящее время команда учёных изучает, снижает ли ИИ личные предубеждения учителей при оценивании, повышает ли он повседневную продуктивность и могут ли простые и недорогие решения изменить то, как педагоги взаимодействуют с инструментами ИИ. Исследователи надеются, что эти выводы будут учтены чиновниками, руководителями школ и департаментами образования, которые принимают решения о внедрении искусственного интеллекта прямо сейчас.

Ранее OBOZ.UA рассказывал, как украинская учительница поправила ИИ, который не смог ответить, как правильно писать слово "преміум’якість".

Только проверенная информация у нас в Telegram-канале OBOZ.UA и Viber. Не ведитесь на фейки!