Роботы в законе: искусственный интеллект в юридической практике

Недавно весь мир облетела новость о том, что робот София получила подданство Саудовской Аравии. Гражданство предполагает определенный юридический статус, и мне стало интересно разобраться в деталях, сможет ли робот в обозримом будущем голосовать, иметь права и обязанности, быть таким же субъектом права, как физическое или юридическое лицо. 

Сначала стоит разобраться с самим понятием искусственный интеллект. При этой фразе у многих перед глазами появляются картинки из сериала «Вестворлд» или подобной околонаучной фантастики, где сверхумные машины побеждают людей. Надо сказать, что до такого этапа современным технологиям еще очень далеко, и сегодняшний искусственный интеллект — это сразу несколько направлений разработок, которые включают разные виды машинного обучения и алгоритмов. И робот София не самый совершенный проект в этой области, хотя она способна поддержать разговор и даже шутить. 

Тем не менее искусственный интеллект уже давно вошел в жизнь современного человека: в некоторых украинских новостроях уже при сдаче дома встроена система «умный дом», интерактивные карты вычисляют оптимальный маршрут в зависимости от ситуации на дорогах, а мы не можем успешно пройти тест «Отличите ли вы картины импрессионистов от творений нейросети?» Развитие технологий порождает новые взаимодействия, которые требуют в том числе правовой оценки.

Технология, которую очевидно нужно регулировать — самоуправляемые машины. Сейчас их активно тестируют на дорогах нескольких американских штатов. Вполне реально, что к 2020 году они уже поступят в массовую продажу. Разработчики работают над тем, чтобы машина без водителя не ехала на красный свет, не сбивала людей и не нарушала другие правила дорожного движения. Допустим, до какой-то степени это удастся. Но что делать, если нарушение все-таки произойдет: кого привлекать к ответственности — компанию-производителя, разработчиков или оператора машины? Американские регуляторы пришли к тому, что в салоне самоуправляемой машины при движении обязан находится оператор, и именно он и будет привлекаться к ответственности в случае нарушения. Причем вне зависимости от того, был он в этот момент за рулем или автомобиль передвигался самостоятельно. В украинском законодательстве пока никак не отрегулировано движение самоуправляемых машин. Ну не привыкли мы смотреть на шаг вперёд, всё с наследием прошлого разбираемся. 

Еще один важный момент, который касается угрозы жизни и здоровью человека — сбор информации и ее конфиденциальность. Любой искусственный интеллект, чтобы обучаться, должен собирать огромные массивы данных: роботы-пылесосы создают карту вашего дома, смарт-помощники знают о ваших планах и передвижениях, «умные дома» имеют доступ к вашим запароленным сетям, замкам и электричеству. А насколько эти данные защищены? Где гарантия, что они не попадут в руки злоумышленников? И что делать, если все-таки попадут? К сожалению, ответов на эти вопросы либо нет, либо они вас не порадуют. Да и сами люди, пользуясь тем или иным «умным» сервисом, мало интересуются, что там под капотом. Они смело принимают лицензионное соглашение и условия конфиденциальности, даже не читая. Ладно, просто люди, — так поступают целые компании, от мелких до довольно крупных. Сегодня в штате серьезного предприятия обязательно должен работать хотя бы один специалист по кибербезопасности. 

Немало примеров уязвимости интернета вещей, на котором преимущественно основаны «умные» дома. Самый невинный — когда на голосовую команду из телерекламы отреагировали тысячи устройств Google Home в США, начав искать в интернете информацию о рекламируемом бургере. Самый опасный — эксперимент журналиста The Wired, когда злоумышленникам удалось удаленно получить контроль над управлением джипа, который ехал по трассе на скорости 110 км/ч. Понятно, что к ответственности тут надо привлекать преступников-хакеров, но было бы неплохо также регулировать требования к безопасности новых технологий, поступающих в массовое использование.

Как видим, в сфере искусственного интеллекта еще много нерешенных юридических вопросов, которые указывают, что считать роботов типа Софии субъектами права еще рано. Однако можно смело предположить, что стремительное развитие технологий способно изменить ситуацию довольно скоро. И было бы неплохо встретить эти перемены подготовленными.

*** 

Просто интересная колонка на эту тему в Нью-Йорк Таймс: 

https://www.nytimes.com/2017/09/01/opinion/artificial-intelligence-regulations-rules.html