Нейросеть выехала на дорогу, а ответственность осталась дома

Учёные загрузили frontier-модель ИИ в беспилотный автомобиль и позволили ей управлять им без присмотра, как сообщает Futurism.

Учёные загрузили передовую модель ИИ в беспилотную машину и отпустили её кататься по реальным улицам, чтобы посмотреть, что она натворит без присмотра.

Лабораторный эксперимент перенесли на асфальт, где вместо мышей — люди, а вместо клетки — город. Согласия у прохожих никто не спрашивал, зато отчёт будет красивым. Если модель ошибётся, это назовут «непредвиденным поведением», а не «кто-то недосмотрел».

Разработчики получают данные, пиар и снятие ответственности; страховщики — новый тариф; юристы — очередь исков. Пешеход получает возможность стать строчкой в датасете. Прибыль частная, асфальт общий.

Я стоял на переходе, когда тестовый автомобиль с датчиками на крыше остановился не потому, что увидел меня, а потому что зажёгся красный. В этот момент стало ясно: система видит сигнал, а не человека. Человек для неё — помеха с низким приоритетом.

ИИ за рулём не отменяет вину, а прячет её в логах.