Искусственный интеллект в судебной системе
В нашу жизнь уже вплотную внедряются алгоритмы машинного обучения, называемые Искуственным Интеллектом.
В нашу жизнь уже вплотную внедряются алгоритмы машинного обучения, называемые Искуственным Интеллектом. Google и FaceBook в своей выдаче предлагает нам читать то, что решил Искуственный Интеллект, а не то, что для вас интереснее и важнее. Но это не все отрасли, которые покоряют алгоритмы машинного обучения.
В США алгоритмы уже определяют риск рецидива и судьбу преступника в судебной системе. Судьи с помощью ИИ принимают решения о досрочном освобождении, мере и месте отбытия наказания, возможность выхода под залог и многое другое. При внедрении этих систем планировалось, что непредвзятый Искуственный Интеллект будет лишь инструментом в руках судьи, пишет колумнистка "MIT Technology Review" Карен Хао.
Тут существует несколько проблем.
Первая - этическая. Она заключается в том, что Судьи с каждым днем будут все больше и больше полагаться на решения алгоритмов ИИ. А фактически решение человека-судьи заменяется решением алгоритма машины.
«Каждый 38-й взрослый американец числится в каком-либо исправительном учреждении, и в определенный момент судьба подсудимого зависит от решений, принятых Искуственным Интеллектом», — утверждает Хао.
Вторая - техническая. Алгоритм ИИ,основываясь на данных подсудимого,сравнивает его доход,семейное положение,возраст и прочие параметры с параметрами осужденных,которые повторно шли на преступления. То есть, если Вы - афроамериканец, то шанс на условно досрочное освобождение у Вас ниже, так как национальные меньшинства статистически чаще возвращаются к преступному делу, как и люди с низким уровнем дохода, или те, кто не имеет высшего образования и т.д.
А проблема заключается в том, что алгоритм оценивает подсудимого только на основе статистических принципов, часто упуская реальное положение дел, вне зависимости от того, о каком человеке идет речь и каковы были его мотивы.
«ИИ путает статистическую корреляцию с причинно-следственной связью. В результате группы людей, которые исторически чаще подвергались давлению со стороны полиции, вновь оказываются в уязвимом положении. В первую очередь это касается меньшинств и беднейших слоев населения», — пишет Хао.
При этом, нет возможности выявить ошибки в рассчетах Искуственного Интеллекта, так как исходный код нейросети запатентован и к нему нельзя получить доступ общественности,что несет в себе большую опасность.
"Использование алгоритмов ИИ в судебном процессе увеличивает риск уменьшения роли судьи. В Украине применение таких технологий в ближайшее время кажется очень туманным. Причина этому - четкие процессуальные нормы, в которых этот инструмент принятия решений не предусмотрен. Само по себе явление Искуственного Интеллекта в судебной системе полезно, но при его жесткой регуляции и прозрачности методик принятия решений, с помощью которых "учится" алгоритм ИИ. Нейросеть должна быть инструментом в руках суда, и суд обязан четко аргументировать принятое решение, которое отличается от решения ИИ. Все это возможно только при полной работоспособности системы, без ошибок в методике принятия решения, сбоев в работе. Массивы данных, с которыми работает ИИ, должны постоянно обновляться, учитывать изменения в законах и не применять устаревшие данные."
- Архіви як джерело історичної пам’яті та інформації Валентина Шрамко 12:35
- Який відсоток "плинності" можна вважати верхньою межею? Олександр Висоцький 11:25
- Кредиторські вимоги податкового органу у справі про банкрутство Євген Морозов 09:40
- Неоподаткування доходу з OnlyFans: відповідальність та кримінальні наслідки Іван Бєдний 09:18
- Актуальні питання електронного бронювання працівників Яна Богданова 08:43
- Ответ на вызов истории: Тридцать первый месяц войны Джейхун Маммадов 08:00
- Висновки з минулого – для кращого майбутнього Сильвія Красонь-Копаніаж вчора о 15:41
- Захист прав інтелектуальної власності на об’єкти, створені штучним інтелектом Артем Гордєєв вчора о 14:51
- Формування нової земельної ділянки шляхом поділу сформованої ділянки Євген Морозов вчора о 07:45
- Строки давності за самовільне будівництво на захопленій землі Дмитро Зенкін 22.09.2024 12:48
- Встановлення дійсного автомобільного перевізника Укртрансбезпекою Євген Морозов 22.09.2024 08:20
- Юридическая защита бизнеса в условиях военного положения Світлана Приймак 21.09.2024 22:29
- Товарно-транспортна накладна – зміна акцентів в судовій практиці Верховного суду Євген Морозов 21.09.2024 08:48
- Влада над владою – умова оновлення України. 4. Від раболіпства до національної ідеї Вільям Задорський 21.09.2024 07:34
- R&D на виробництві: як взаємодія підрозділів сприяє інноваціям Єгор Осадчук 20.09.2024 16:34
- Найкритичніша зима: чому уряд має знову заборонити експорт дров та паливної сировини 2490
- Скасували продаж іпотечної квартири та повернули нерухомість клієнту 446
- Пастка для довірливих 212
- Вплив модерування чатів у Telegram на безпеку українських компаній 103
- Ціни на нерухомість в Україні: фактори впливу та прогнози 99
-
Чума свиней на порозі. Хто її приніс та що буде з цінами на м’ясо
Бізнес 23653
-
Найбільший виробник українського легпрому розповів про загрозу секондхенду
Бізнес 8572
-
Ціна на соняшник в Україні зросла
Бізнес 7929
-
"Це змінить правила гри". Найбільші банки світу вирішили підтримати ядерну енергетику
Бізнес 7702
-
Найбільший металургійний комбінат України оголосив про скорочення виробництва
Бізнес 6422