Искусственный интеллект в судебной системе
В нашу жизнь уже вплотную внедряются алгоритмы машинного обучения, называемые Искуственным Интеллектом.
В нашу жизнь уже вплотную внедряются алгоритмы машинного обучения, называемые Искуственным Интеллектом. Google и FaceBook в своей выдаче предлагает нам читать то, что решил Искуственный Интеллект, а не то, что для вас интереснее и важнее. Но это не все отрасли, которые покоряют алгоритмы машинного обучения.
В США алгоритмы уже определяют риск рецидива и судьбу преступника в судебной системе. Судьи с помощью ИИ принимают решения о досрочном освобождении, мере и месте отбытия наказания, возможность выхода под залог и многое другое. При внедрении этих систем планировалось, что непредвзятый Искуственный Интеллект будет лишь инструментом в руках судьи, пишет колумнистка "MIT Technology Review" Карен Хао.
Тут существует несколько проблем.
Первая - этическая. Она заключается в том, что Судьи с каждым днем будут все больше и больше полагаться на решения алгоритмов ИИ. А фактически решение человека-судьи заменяется решением алгоритма машины.
«Каждый 38-й взрослый американец числится в каком-либо исправительном учреждении, и в определенный момент судьба подсудимого зависит от решений, принятых Искуственным Интеллектом», — утверждает Хао.
Вторая - техническая. Алгоритм ИИ,основываясь на данных подсудимого,сравнивает его доход,семейное положение,возраст и прочие параметры с параметрами осужденных,которые повторно шли на преступления. То есть, если Вы - афроамериканец, то шанс на условно досрочное освобождение у Вас ниже, так как национальные меньшинства статистически чаще возвращаются к преступному делу, как и люди с низким уровнем дохода, или те, кто не имеет высшего образования и т.д.
А проблема заключается в том, что алгоритм оценивает подсудимого только на основе статистических принципов, часто упуская реальное положение дел, вне зависимости от того, о каком человеке идет речь и каковы были его мотивы.
«ИИ путает статистическую корреляцию с причинно-следственной связью. В результате группы людей, которые исторически чаще подвергались давлению со стороны полиции, вновь оказываются в уязвимом положении. В первую очередь это касается меньшинств и беднейших слоев населения», — пишет Хао.
При этом, нет возможности выявить ошибки в рассчетах Искуственного Интеллекта, так как исходный код нейросети запатентован и к нему нельзя получить доступ общественности,что несет в себе большую опасность.
"Использование алгоритмов ИИ в судебном процессе увеличивает риск уменьшения роли судьи. В Украине применение таких технологий в ближайшее время кажется очень туманным. Причина этому - четкие процессуальные нормы, в которых этот инструмент принятия решений не предусмотрен. Само по себе явление Искуственного Интеллекта в судебной системе полезно, но при его жесткой регуляции и прозрачности методик принятия решений, с помощью которых "учится" алгоритм ИИ. Нейросеть должна быть инструментом в руках суда, и суд обязан четко аргументировать принятое решение, которое отличается от решения ИИ. Все это возможно только при полной работоспособности системы, без ошибок в методике принятия решения, сбоев в работе. Массивы данных, с которыми работает ИИ, должны постоянно обновляться, учитывать изменения в законах и не применять устаревшие данные."
- Що робити, коли дії співробітника призвели до фінансових втрат? Олександр Висоцький 11:13
- Кабальні "угоди Яресько" блокують економічне відновлення України Любов Шпак 11:09
- Изменения в оформлении отсрочки от мобилизации с 06.05.2025 Віра Тарасенко вчора о 23:36
- Безбар’єрність у лікарнях: чому доступ до медичних послуг виходить за межі пандусів Ігор Ткаченко вчора о 15:10
- Де отримати криптоліцензію у 2025 році? Юлія Барабаш вчора о 12:25
- Як сплачує податки та подає звітність контрольована іноземна компанія (КІК) Сергій Пагер вчора о 09:19
- Тренди світових витрат засобами візуалізації: військо, освіта, охорона здоров’я Христина Кухарук 06.05.2025 19:13
- Як роботодавцю повернути кошти, сплачені працівнику за скасованим рішенням суду Альона Прасол 06.05.2025 14:30
- Чому підприємці бояться виходити на новий рівень і як подолати цей бар’єр? Олександр Висоцький 06.05.2025 14:12
- "Ситник проти України" – чи може справедливість бути упередженою? Дмитро Зенкін 06.05.2025 12:57
- Нові правила подачі заявок на торговельні марки Сергій Барбашин 06.05.2025 11:45
- Суд відмовив у позові до ФОП щодо псування техніки після ремонту Артур Кір’яков 05.05.2025 19:08
- Літо, тераси та куріння: чи є заборона для літніх майданчиків? Олег Сніцар 05.05.2025 17:12
- Регіональні тренди запитів "Відео ШІ" в Україні: піки, спад і соціальні фактори Христина Кухарук 05.05.2025 17:03
- Мінеральна угода США та України: шанс на нову енергополітику чи дорогий експеримент? Ростислав Никітенко 05.05.2025 15:55
- Пенсійна реформа 2025 року 410
- Регіональні тренди запитів "Відео ШІ" в Україні: піки, спад і соціальні фактори 171
- Літо, тераси та куріння: чи є заборона для літніх майданчиків? 112
- Тренди світових витрат засобами візуалізації: військо, освіта, охорона здоров’я 107
- Чому ми приймаємо нелогічні фінансові рішення? 99
-
Суд наказав знести відпочинковий комплекс на Дніпрі у Києві
Бізнес 22513
-
Брно відправило до України перші подаровані Харкову тролейбуси – фото
Бізнес 8771
-
Україна переходить до остаточного знищення Чорноморського флоту
Думка 6613
-
Reuters дізналося зміст нового пакета санкцій ЄС проти Росії
Бізнес 6416
-
Господарем параду у Москві стане Сі. Його бультер’єр Путін від безсилля атакує Україну
Думка 5798