Компьютерные специалисты из Университета Карнеги-Меллона начали расследование сбоя ИИ после того, как в июне прошлого года популярный шахматный канал на YouTube был заблокирован за "вредный и опасный" контент, сообщает Independent.

Хорватский шахматист Антонио Радич, известный под псевдонимом Agadmator, ведет популярнейший в мире шахматный канал на YouTube с более чем 1 млн подписчиков. В июне 2020 года Радич был заблокирован на YouTube во время представления шахматного турнира с гроссмейстером Хикару Накамурой, но был восстановлен уже через 24 часа.

Радич уверен, что временная блокировка связана с фразой "черные против белых", хотя автор, очевидно, говорил о шахматах.

Дело в том, что система модерации YouTube основана на алгоритмах искусственного интеллекта, а это означает, что ИИ может неверно истолковать комментарии, если ее не обучить правильно понимать контекст.

Исследователи проверили эту теорию, используя современный классификатор речи, чтобы просмотреть более 680 000 комментариев, собранных с пяти популярных шахматных каналов YouTube. Выяснилось, что 82% сообщений были классифицированы неправильно из-за использования таких слов, как "черный", "белый", "нападение" и "угроза" – все они часто используются в шахматном языке.

• Это не первый случай, когда искусственный интеллект допускает серьезную ошибку. Так в США искусственный интеллект посадил в тюрьму невиновного человека.
• Однако, машинное обучение может быть и очень полезным человеку: ученые обучили ИИ помогать врачам точнее предсказывать риск ранней смерти по УЗИ сердца.