Недавно весь мир облетела новость о том, чторобот София получила подданство Саудовской Аравии. Гражданство предполагаетопределенный юридический статус, и мне стало интересно разобраться в деталях,сможет ли робот в обозримом будущем голосовать, иметь права и обязанности, бытьтаким же субъектом права, как физическое или юридическое лицо.
Сначала стоит разобраться с самим понятиемискусственный интеллект. При этой фразе у многих перед глазами появляютсякартинки из сериала «Вестворлд» или подобной околонаучной фантастики, где сверхумные машины побеждают людей. Надосказать, что до такого этапа современным технологиям еще очень далеко, исегодняшний искусственный интеллект — это сразу несколько направленийразработок, которые включают разные виды машинного обучения и алгоритмов. Иробот София не самый совершенный проект в этой области, хотя она способнаподдержать разговор и даже шутить.
Тем не менее искусственный интеллект уже давновошел в жизнь современного человека: в некоторых украинских новостроях уже присдаче дома встроена система «умный дом», интерактивные карты вычисляютоптимальный маршрут в зависимости от ситуации на дорогах, а мы не можем успешнопройти тест «Отличите ли вы картины импрессионистов от творений нейросети?»Развитие технологий порождает новые взаимодействия, которые требуют в том числеправовой оценки.
Технология, которую очевидно нужнорегулировать — самоуправляемые машины. Сейчас их активно тестируют на дорогахнескольких американских штатов. Вполне реально, что к 2020 году они ужепоступят в массовую продажу. Разработчики работают над тем, чтобы машина без водителя не ехалана красный свет, не сбивала людей и не нарушала другие правила дорожногодвижения. Допустим, до какой-то степени это удастся. Но что делать, еслинарушение все-таки произойдет: кого привлекать к ответственности —компанию-производителя, разработчиков или оператора машины? Американскиерегуляторы пришли к тому, что в салоне самоуправляемой машины при движенииобязан находится оператор, и именно он и будет привлекаться к ответственности вслучае нарушения. Причем вне зависимости от того, был он в этот момент за рулемили автомобиль передвигался самостоятельно. В украинском законодательстве поканикак не отрегулировано движение самоуправляемых машин. Ну не привыкли мысмотреть на шаг вперёд, всё с наследием прошлого разбираемся.
Еще один важный момент, который касаетсяугрозы жизни и здоровью человека — сбор информации и ее конфиденциальность.Любой искусственный интеллект, чтобы обучаться, должен собирать огромныемассивы данных: роботы-пылесосы создают карту вашего дома, смарт-помощникизнают о ваших планах и передвижениях, «умные дома» имеют доступ к вашимзапароленным сетям, замкам и электричеству. А насколько эти данные защищены?Где гарантия, что они не попадут в руки злоумышленников? И что делать, есливсе-таки попадут? К сожалению, ответов на эти вопросы либо нет, либо они вас непорадуют. Да исами люди, пользуясь тем или иным «умным» сервисом, мало интересуются, что тампод капотом. Они смело принимают лицензионное соглашение и условияконфиденциальности, даже не читая. Ладно, просто люди, — так поступают целыекомпании, от мелких до довольно крупных. Сегодня в штате серьезного предприятияобязательно должен работать хотя бы один специалист по кибербезопасности.
Немало примеров уязвимости интернета вещей, накотором преимущественно основаны «умные» дома. Самый невинный — когда на голосовую команду изтелерекламы отреагировали тысячи устройств Google Home в США, начав искать винтернете информацию о рекламируемом бургере. Самый опасный — эксперимент журналиста The Wired, когдазлоумышленникам удалось удаленно получить контроль над управлением джипа,который ехал по трассе на скорости 110 км/ч. Понятно, что к ответственности тутнадо привлекать преступников-хакеров, но было бы неплохо также регулироватьтребования к безопасности новых технологий, поступающих в массовоеиспользование.
Как видим, в сфере искусственного интеллектаеще много нерешенных юридических вопросов, которые указывают, что считатьроботов типа Софии субъектами права еще рано. Однако можно смело предположить,что стремительное развитие технологий способно изменить ситуацию довольноскоро. И было бы неплохо встретить эти перемены подготовленными.
***
Просто интересная колонка на эту тему вНью-Йорк Таймс:
https://www.nytimes.com/2017/09/01/opinion/artificial-intelligence-regulations-rules.html