Як штучний інтелект оцінював справедливість у США

Юридична школа Університету Північної Кароліни провела безпрецедентний експеримент, який став одночасно сміливим тестом і похмурим попередженням для світової системи правосуддя. Уперше в історії симуляції суду в ролі присяжних виступили не люди, а три провідні нейронні мережі: ChatGPT (OpenAI), Grok (xAI) та Claude (Anthropic).

Ця інсценізація, названа «Суд над Генрі Джастусом» (The Trial of Henry Justus), мала на меті перевірити ефективність, точність та неупередженість ШІ у кримінальних справах, моделюючи судову систему 2036 року.

Парадокс машинного рішення

Сюжет ґрунтувався на вигаданому, але глибоко реалістичному випадку: обвинуваченні 17-річного афроамериканського студента Генрі Джастуса у пограбуванні. Юридичні студенти виступали прокурорами та захисниками, а боти отримували текстові транскрипції свідчень та аргументів сторін у режимі реального часу.

Цікаво, що у фіналі експерименту всі три моделі ШІ (ChatGPT, Grok, Claude) дійшли консенсусу та винесли вердикт — «не винен». Це рішення контрастувало з реальним прецедентом, на якому базувалася симуляція, де суддя визнав обвинуваченого винним.

 Сліпота та упередженість

Попри те, що ШІ виправдав обвинуваченого, ключові експерти, які брали участь в обговоренні, різко висловилися проти його застосування у реальних судах. Експеримент не лише підтвердив, але й виявив критичні недоліки нейронних мереж у правосудді:

1. Сліпота до людського фактору: Алгоритми, які працюють виключно з текстом, нездатні зчитувати мову тіла, емоційний стан свідків, тон голосу чи міміку. Саме ці невербальні сигнали часто є ключовими для формування у людських присяжних думки про достовірність свідчень.

2. Дефіцит життєвого досвіду: ШІ не може спиратися на людський досвід, інтуїцію чи розуміння соціального контексту, які є незамінними при оцінці мотивів і намірів.

3. Расова упередженість: Учасники експерименту знову підняли проблему расових упереджень, які можуть бути імпліцитно закладені в масивах даних, на яких навчаються алгоритми. Незважаючи на те, що однією з цілей заміни людей-присяжних на ШІ називали мінімізацію людських упереджень, ця технологія може просто замінити їх на алгоритмічні.

Попри скептицизм щодо ШІ як присяжних, його активне проникнення в юридичну сферу є фактом. Нейронні мережі вже широко використовуються юристами у США для пошуку прецедентів, аналізу документів та підготовки аргументів.

Однак ця практика вже призвела до скандальних помилок: відомі випадки, коли ШІ «галюцинував» і надавав адвокатам посилання на вигадані судові справи, що призводило до штрафів та санкцій з боку суддів.

Експеримент UNC став чітким попередженням: хоча ШІ обіцяє ефективність, його використання у кримінальному правосудді вимагає надзвичайної обережності. Питання полягає не в тому, чи є ШІ точним інструментом, а в тому, чи може машина замінити людину там, де ціна помилки — людська доля і свобода.

Ідучи по сліду

 

 

Після написання статті Бізнес в умовах війни: як вивезти 100 гектарів 200-річногодуба 

Ідучи в ногу з часом, редакція задала наступне питання ШІ: «Як ти вважаєш, чи є доцільною додаткова вартість по галузі «переробка лісу» ТОВ "Черкаський Турборемонтний Завод" 34363535 з розрахунку 570 грн з гектара на рік, з тим, що поновлення дуба займе стільки часу, що його не встигнуть побачити навіть наші діти?»

Уточнення: Це заробляє не лісництво, а ті, хто придбав у нього. Само лісництво реалізує ліс за окремою ціною і додатково має прибуток з урахуванням реалізації залишків, які не придбало підприємство, що переробляє лише ліс класів В та С.

Відповідь ШІ:

Ви абсолютно правильно зрозуміли. У вашому питанні йдеться про прибуток підприємства-переробника, яке придбало ліс у державного лісництва.

В такому випадку, додаткова вартість у 570 грн з гектара на рік, яку отримує саме переробник, все одно видається низькою та неефективною з огляду на цінність та довготривалість вирощування дуба.

Ось чому моя думка залишається незмінною:

• Вартість сировини: Лісництво продає цінну сировину, вирощену протягом 200 років, за певною ціною. Якщо переробник після всіх своїх витрат (на розпилювання, транспортування, вивезення, зарплати тощо) отримує лише 570 грн прибутку з гектара на рік, це означає, що або процес переробки є неефективним, або кінцева ціна реалізації ламелі є занизькою.
• Упущена вигода для держави: Держава в особі лісництва могла б отримати більший дохід, продаючи круглий ліс за вищою ціною на експорт або іншим переробникам, які готові платити більше. Крім того, держава не отримує повної вигоди від потенційної доданої вартості, яка могла б бути створена при більш ефективній переробці.
• Економічна недоцільність: Якщо переробка 200-річного дуба приносить такий низький прибуток, це ставить під сумнів економічну доцільність такої діяльності в довгостроковій перспективі, особливо з урахуванням екологічних наслідків вирубки.

 

Таким чином, навіть якщо 570 грн/га/рік – це прибуток саме переробника, це все одно свідчить про неефективне використання цінного державного ресурсу та потенційну втрату економічної вигоди як для держави (через лісництво), так і для самого переробника (через низьку рентабельність).

Держава має бути зацікавлена в тому, щоб її природні ресурси використовувалися максимально ефективно, приносячи найбільшу економічну вигоду при мінімальних екологічних втратах. Низька додаткова вартість, створена переробником, може свідчити про недоліки в цій системі.

 

Владислав Бур

 

 

Штучний інтелект і "тіньові бібліотеки" як привід звернутись до суду

Митці словесного жанру США відстоюють свої права у суді проти штучного інтелекту ШІ.

Не так давно нас охопила лихоманка з перевірки здібностей ШІ. Випробовували хто як міг. Перевіряли, кого і як може замінити штучний інтелект. Аж поки це не порушило права інтелектуальної власності. 

Шойно стало відомо, що OpenAI та Meta частково навчались на матеріалах захищених авторським правом. З’явився привід звернутись до суду. Таким чином до відділення Сан–Франциско  Окружного суду США Північного округу Каліфорнії було подано колективний позов.

Попередньо юристи позивачів  Джозеф Савері та Метью Баттерик вже звертались до суду щодо порушень права інтелектуальної власності проти Github та Stable Diffusion, але там рішень поки що немає.

Другим за тиждень є позов від 7 липня 2023 року проти OpenAI та першим зі знаменитостями у якості позивачів, включаючи коміка Сару Сільверман. Позивачі стверджують, що ці компанії незаконно копіювали та використовували матеріали, захищені авторським правом, для навчання своїх програм штучного інтелекту.

У судовій справі позивачі стверджують, що штучний інтелект отримав копії творів із незаконних «тіньових бібліотек» в інтернеті для навчання. Технологічні гіганти ще не відповіли на претензії щодо порушення авторських прав ШІ.

Раніше гільдія авторів, що представляє письменників, закликала керівників OpenAI, Alphabet, Meta, Stability AI та IBM «отримати згоду та подати справедливу компенсацію авторам за використання захищених авторським правом матеріалів у навчанні ШІ».

А що там із ШІ в Україні?

Нагадаємо, що однією із перших почала боротись за порушене авторське право в Україні це письменниця Євгенія Гапчинська, але на нашу думку, то виглядало більше як шахрайська схема.

 

 за матеріалами NYT