Беспилотные системы уже уверенно держат полосу, проходят перекрёстки и совмещают данные множества датчиков с точностью, которая раньше была возможна только в исследовательских лабораториях. Узкое место всё меньше связано с теорией управления и всё больше с социальной психологией: люди не спешат отдавать контроль программному коду, даже если статистика его ошибок лучше, чем у человеческих водителей.

Ключевые инженерные прорывы в одновременной локализации и построении карты, в сенсорном слиянии и в устойчивом управлении свели риск чисто технического отказа к небольшому остаточному уровню. Нерешённой остаётся область когнитивных искажений, восприятия риска и хрупкого доверия в плотной сети людей, автомобилей и программного обеспечения. Один яркий инцидент, разошедшийся по социальным сетям, способен радикально изменить субъективное ощущение вероятностей так, как это не описывается байесовскими моделями.

Разработчики сегодня настраивают интерфейсы взаимодействия человека и машины так же тщательно, как и функции вознаграждения в системах обучения с подкреплением. Визуальная обратная связь, гибкие уровни автономности и задержка при ручном перехвате управления становятся такими же критичными параметрами, как тормозной путь. Инженеры спорят, сколько прозрачности алгоритмов стоит открывать пользователю, чтобы не перегрузить его информацией, опираясь на идеи асимметрии информации и предельного влияния её объёма на ощущение безопасности. Тем временем страховщики и регуляторы пытаются разобраться, как распределять ответственность, когда она размывается между разработчиками кода, поставщиками карт и операторами автопарков.

Технология уже научилась ездить сама. Обществу ещё предстоит решить, насколько далеко оно готово отпустить руль.