Подключайтесь к Telegram-каналу NashDom.US
Компьютерные специалисты из Университета Карнеги-Меллона начали расследование сбоя ИИ после того, как в июне прошлого года популярный шахматный канал на YouTube был заблокирован за "вредный и опасный" контент, сообщает Independent.
Хорватский шахматист Антонио Радич, известный под псевдонимом Agadmator, ведет популярнейший в мире шахматный канал на YouTube с более чем 1 млн подписчиков. В июне 2020 года Радич был заблокирован на YouTube во время представления шахматного турнира с гроссмейстером Хикару Накамурой, но был восстановлен уже через 24 часа.
Радич уверен, что временная блокировка связана с фразой "черные против белых", хотя автор, очевидно, говорил о шахматах.
Дело в том, что система модерации YouTube основана на алгоритмах искусственного интеллекта, а это означает, что ИИ может неверно истолковать комментарии, если ее не обучить правильно понимать контекст.
Исследователи проверили эту теорию, используя современный классификатор речи, чтобы просмотреть более 680 000 комментариев, собранных с пяти популярных шахматных каналов YouTube. Выяснилось, что 82% сообщений были классифицированы неправильно из-за использования таких слов, как "черный", "белый", "нападение" и "угроза" – все они часто используются в шахматном языке.