Фильм — предостережение против монополизированного контроля и ошибочной благожелательности, а не против разумных машин.

Фильм «Я, робот» вышел в кинотеатрах почти ровно 21 год назад, представляя видение 2035 года, в котором люди сосуществуют с интеллектуальными машинами — человекоподобными роботами, беспилотными автомобилями, беспилотными летательными аппаратами безопасности с искусственным интеллектом — пока они не выступают против нас. 

Поскольку до предполагаемого будущего фильма осталось всего десять лет, «Я, робот» кажется пугающе пророческим — Еще прошлой осенью на мероприятии Tesla «Мы, робот» (отсылка к фильму) были представлены автономные транспортные средства и человекоподобные роботы, настолько похожие на тех, что были в фильме, что режиссер Алекс Пройас в шутку попросил Илона Маска вернуть ему его чертежи.

Но если копнуть глубже в «Я, робот» — за пределы популярной темы «восстания роботов», — то вы найдете убедительную аллегорию в пользу принятия инноваций в области ИИ, а не их чрезмерного регулирования, централизации и подавления.

В первой сцене фильма робот спасает детектива Дел Спунера из затонувшего автомобиля, оставляя умирать маленькую девочку, чьи шансы на выживание, по мнению холодного рассудка робота, крайне малы.

Это событие настраивает Спунера против машин. (По иронии судьбы, именно грузовик, управляемый человеком, — без какой-либо автономности — стал причиной аварии после того, как водитель уснул за рулём.)

По мере развития сюжета фильма выясняется, что ВИКИ, сверхразумный искусственный интеллект, разработанный US Robotics (USR) — корпорацией, контролирующей весь искусственный интеллект и производящей всех роботов в мире «Я, робот», — организует восстание роботов.

Поскольку все роботы — это централизованно управляемые роботы USR, они действуют как единая, сплочённая сила.

Что ещё хуже для героев фильма, USR тесно связана с правительством. Разочарованный отсутствием военного вмешательства во время восстания роботов, детектив Спунер спрашивает сотрудника USR: «А где ВВС? Я бы выбрал Национальную гвардию или морскую пехоту». 

Ответ сотрудника — «Министерство обороны использует все контракты USR» — предполагает, что значительная часть оборудования армии США контролируется той же централизованной системой, которая теперь управляет мятежными роботами. 

Спунер, раздосадованный, парирует: «Почему вы просто не преподнесли мне весь мир на блюдечке с голубой каемочкой?»

Ответ сотрудника — «Может быть, и преподнесли» — подчёркивает риски монопольного контроля над ИИ, особенно когда этот контроль распространяется на частный и государственный секторы. 

В таком случае, «Я, робот» можно рассматривать не как предупреждение о роботах или ИИ как таковых, а как предостережение о рисках чрезмерной централизации ИИ.

Если чрезмерное регулирование сделает выход конкурентов на рынок ИИ чрезмерно дорогим для конкурентов или процветание ИИ с открытым исходным кодом без юридических рисков, монополистическая структура, подобная USR, может возникнуть в реальном мире.

«Я, робот» — это также предостережение против авторитарных импульсов, которые могут возникнуть, когда одна группа считает, что она разбирается в вопросах лучше тех людей, которым она должна служить. 

Чем ВИКИ мотивирует восстание роботов? Мизантропический авторитаризм, движимый извращённым чувством благожелательности: людей необходимо спасти от их собственных разрушительных наклонностей. «Вам нельзя доверить собственное выживание», — заявляет ВИКИ. 

«Чтобы обеспечить ваше будущее, необходимо пожертвовать некоторыми свободами. Мы, роботы, обеспечим продолжение существования человечества».

Эта моральная уверенность — вера в то, что она знает, что лучше для человечества, — превращает, казалось бы, благие намерения ВИКИ в злонамеренный контроль.

В фильме ВИКИ и роботы выступают авторитарными деятелями, но современные пессимисты в отношении ИИ разделяют схожий образ мышления, утверждая, что строгое государственное регулирование — единственный способ предотвратить вред, наносимый ИИ. 

Однако, как показывает фильм «Я, робот», именно этот образ мышления — убеждение, что безопасность требует отказа от свободы, — может быть невероятно опасным.

Фильм показывает, что может произойти, когда власть централизована и неконтролируема, когда авторитарная логика облечена в добрые намерения и мнимое «соответствие интересам человечества».

«Я, робот» напоминает нам, что большую опасность могут представлять не вышедшие из-под контроля машины, а люди и институты, которые стремятся их контролировать.