Google AI советует не гулять с неграми: искусственный интеллект прошёл путь от поисковика до кухонного расиста

Google AI выдавал расистские советы о нахождении наедине с определёнными группами людей, как сообщает Futurism.

Суть: корпорация добра в очередной раз обнаружила, что её нейросеть — это просто зеркало, в котором отражается весь мусор, накопленный человечеством в интернете. Google AI выдавал «советы» о том, что с некоторыми группами людей лучше не оставаться наедине, и теперь компания судорожно латает дыры в своём алгоритме, делая вид, что это не она его так воспитала.

Абсурд в том, что нейросеть не придумала ничего нового — она просто пересказала стереотипы, которые щедро рассыпаны по форумам, соцсетям и комментариям. Вся «магия» искусственного интеллекта свелась к тому, что он усреднил миллионы человеческих предрассудков и выдал их за экспертное мнение. Выиграли, как обычно, разработчики: они получат бюджет на «исправление» и новые исследования, а пользователи — ещё один повод убедиться, что алгоритмы такие же ограниченные, как их создатели.

Лично я заметил, что когда нейросеть наконец-то признала, что «не может рекомендовать» — это звучало как извинение студента, который забыл подготовиться к экзамену. Но вместо того, чтобы просто удалить эти данные, компания будет долго и нудно объяснять, что «ИИ учится на ошибках», хотя ошибки — это мы сами.

Кто реально выигрывает? Конкуренты вроде OpenAI, которые теперь могут показать свои модели более «толерантными». Ну и сама Google, которая получает бесплатный пиар и повод для очередного обновления, которое на самом деле ничего не изменит — просто добавит фильтры.

Афоризм: искусственный интеллект стал настолько умным, что научился цитировать глупость с уверенностью профессионала.