Искусственный интеллект в судебной системе
В нашу жизнь уже вплотную внедряются алгоритмы машинного обучения, называемые Искуственным Интеллектом.
В нашу жизнь уже вплотную внедряются алгоритмы машинного обучения, называемые Искуственным Интеллектом. Google и FaceBook в своей выдаче предлагает нам читать то, что решил Искуственный Интеллект, а не то, что для вас интереснее и важнее. Но это не все отрасли, которые покоряют алгоритмы машинного обучения.
В США алгоритмы уже определяют риск рецидива и судьбу преступника в судебной системе. Судьи с помощью ИИ принимают решения о досрочном освобождении, мере и месте отбытия наказания, возможность выхода под залог и многое другое. При внедрении этих систем планировалось, что непредвзятый Искуственный Интеллект будет лишь инструментом в руках судьи, пишет колумнистка "MIT Technology Review" Карен Хао.
Тут существует несколько проблем.
Первая - этическая. Она заключается в том, что Судьи с каждым днем будут все больше и больше полагаться на решения алгоритмов ИИ. А фактически решение человека-судьи заменяется решением алгоритма машины.
«Каждый 38-й взрослый американец числится в каком-либо исправительном учреждении, и в определенный момент судьба подсудимого зависит от решений, принятых Искуственным Интеллектом», — утверждает Хао.
Вторая - техническая. Алгоритм ИИ,основываясь на данных подсудимого,сравнивает его доход,семейное положение,возраст и прочие параметры с параметрами осужденных,которые повторно шли на преступления. То есть, если Вы - афроамериканец, то шанс на условно досрочное освобождение у Вас ниже, так как национальные меньшинства статистически чаще возвращаются к преступному делу, как и люди с низким уровнем дохода, или те, кто не имеет высшего образования и т.д.
А проблема заключается в том, что алгоритм оценивает подсудимого только на основе статистических принципов, часто упуская реальное положение дел, вне зависимости от того, о каком человеке идет речь и каковы были его мотивы.
«ИИ путает статистическую корреляцию с причинно-следственной связью. В результате группы людей, которые исторически чаще подвергались давлению со стороны полиции, вновь оказываются в уязвимом положении. В первую очередь это касается меньшинств и беднейших слоев населения», — пишет Хао.
При этом, нет возможности выявить ошибки в рассчетах Искуственного Интеллекта, так как исходный код нейросети запатентован и к нему нельзя получить доступ общественности,что несет в себе большую опасность.
"Использование алгоритмов ИИ в судебном процессе увеличивает риск уменьшения роли судьи. В Украине применение таких технологий в ближайшее время кажется очень туманным. Причина этому - четкие процессуальные нормы, в которых этот инструмент принятия решений не предусмотрен. Само по себе явление Искуственного Интеллекта в судебной системе полезно, но при его жесткой регуляции и прозрачности методик принятия решений, с помощью которых "учится" алгоритм ИИ. Нейросеть должна быть инструментом в руках суда, и суд обязан четко аргументировать принятое решение, которое отличается от решения ИИ. Все это возможно только при полной работоспособности системы, без ошибок в методике принятия решения, сбоев в работе. Массивы данных, с которыми работает ИИ, должны постоянно обновляться, учитывать изменения в законах и не применять устаревшие данные."
- Війна змінила правила гри: Україна на першому місці за передачами озброєння (2022–2024) Христина Кухарук вчора о 16:22
- Как оформить наследство в Украине, если вы находитесь за границей: пошаговая инструкция Віра Тарасенко вчора о 14:50
- Централізація закупівель: як Україна та ЄС підвищують ефективність державних витрат Олена Усеінова 23.05.2025 17:38
- Обмеження переказів між картками: що зміниться з 1 червня? Денис Терещенко 23.05.2025 15:07
- Як уникнути блокування податкових накладних? Сергій Пагер 23.05.2025 08:47
- Сімейне підприємництво в Україні: міжнародний досвід та перспективи Юлія Мороз 22.05.2025 14:15
- Світло – не трофей Ірина Голіздра 22.05.2025 12:56
- Оскарження тарифу на електроенергію: КОАС розглядає справу проти постанови КМУ Андрій Хомич 22.05.2025 11:38
- Господарювання без сторонніх або ТОВ з 1 учасником Альона Пагер 22.05.2025 09:39
- Капітал у квадратних метрах: стратегічний погляд на інвестиції в українську нерухомість Раміль Мехтієв 22.05.2025 09:07
- Хто вбив Андрія Портнова? Дмитро Золотухін 22.05.2025 01:17
- Психосоціальні ризики: прихована загроза безпеці праці, яку не варто ігнорувати Валентин Митлошук 21.05.2025 15:51
- Війна і молодь України: виклики, нові цінності та перспективи розвитку після війни Захарій Ткачук 21.05.2025 13:32
- Що робити зі скасуванням торгівельного безвізу для України Юрій Щуклін 21.05.2025 13:22
- Суд не вправі оцнювати ухвали НСРД Андрій Хомич 21.05.2025 11:39
- Хто вбив Андрія Портнова? 3430
- Україна: 68 місце за якістю життя і 87 за зарплатами – сигнал для реформ 216
- Секс під час війни: про що мовчать, але переживають тисячі 151
- Війна змінила правила гри: Україна на першому місці за передачами озброєння (2022–2024) 95
- Обмеження переказів між картками: що зміниться з 1 червня? 85
-
Нові 1920-ті, "кернесанс" і "Геть від Москви!": як живе Харків за 30 км від Росії
9095
-
Від $2000 за квадрат і робітники з Індії. Ігор Ніконов про майбутнє ринку нерухомості
Бізнес 7956
-
Виклик Маску: як Китай утричі обігнав Starlink за потужностями виробництва супутників
Думка 7340
-
Натреновані на вбивство: Кремлю доведеться розв'язувати проблему розлючених фронтовиків
Думка 6707
-
"Агресор космічного масштабу". Ексрозвідниця США про загрозу РФ, Китаю і нову роль України
5828