CNEWS: «Черные», «белые», «атака»… Шахматный канал на YouTube забанили за «вредоносное содержимое»
Счет хорватского игрока Антонио Радика, также известного как «Агадматор», действительно был приостановлен за «вредоносный и опасный» контент, в то время как последний прокомментировал часть игры международного гроссмейстера Хикару Накамура. Дочерняя компания Google быстро разблокировала свой канал, за которым последовало более миллиона человек, но не предоставила никаких объяснений пользователю.
Так, алгоритм сайта посчитал, что на канале слишком часто используются такие слова как «черные», «белые» и «атака». При этом атака черной пешкой или ладьей является неотъемлемой частью шахматных терминов. Искусственный интеллект посчитал это проявлением ненависти.
Непонимание смысла и контекста
Подобная ошибка тем сильней сбивает с толку, что у канала шахматиста более миллиона подписчиков, а его видео набирают в среднем 5 миллионов просмотров. Хотя блокировка продлилась всего сутки, она все равно поднимает вопрос надежности алгоритма. Как подчеркивают опрошенные Independent специалисты Университета Карнеги Меллон (Питтсбург), алгоритм не в состоянии увидеть разницу между природой слов и контекстом.
Если искусственный интеллект используется для выявления расистских заявлений, подобные инциденты могут повториться,
говорит ученый Ашикур Худабухш.
После рассмотрения более 1000 комментариев, которые были классифицированы ИИ как «речи ненависти», они обнаружили, что 82% из них содержали слова «черный», «белый», «нападение» или «угроза». Чтобы предотвратить подобные инциденты в будущем, эксперты предложили Youtube включить шахматный лексикон в свой алгоритм.
