Право на пояснення алгоритмічних рішень у системі цифрових прав людини

Abstract

Стаття присвячена дослідженню концепції права людини на пояснення рішень, ухвалених із використанням алгоритмів штучного інтелекту. Активне впровадження автоматизованих систем до таких сфер як освіта, соціальне забезпечення, фінансові послуги, правосуддя та публічне врядування зумовлює значний вплив технологій штучного інтелекту на правовий статус особи. Як наслідок, виникає необхідність формування нових підходів до гарантування і захисту прав людини, які б дозволили запобігти дискримінації, упередженому ставленню та непрозорості під час ухвалення рішень відповідними системами. У статті досліджено групи помилок, які можуть виникнути під час застосування автоматизованого прийняття рішень судовими органами: технічні, соціальні та помилки, пов’язані з відсутністю чи незрозумілістю пояснень. Проаналізовано передумови зародження концепції права на пояснення алгоритмічних рішень, її зв’язок із теорією «чорної скриньки» штучного інтелекту та зрозумілого штучного інтелекту. Розкрито основні різновиди пояснень, отримання яких гарантує дане право: конкретні та загальні, причинно-наслідкові та нормативні, пояснення ex ante і пояснення ex post. Проаналізовано підходи до визначення мети права на пояснення - захисту конкретного блага, яким може бути прозорість прийняття рішень, довіра до держави, суб’єктів владних повноважень чи приватних операторів або право на самозахист як таке. Досліджено європейський підхід до визнання та нормативного закріплення цього права через призму Загального регламенту про захист даних та Закону про штучний інтелект. На основі аналізу положень відповідних актів з’ясовано основні елементи, які системно пов’язані між собою та в сукупності становлять право на пояснення автоматизованих рішень. До таких компонентів віднесено: а) право особи знати про факт використання технологій штучного інтелекту у процесі ухвалення істотного для неї рішення; б) право на змістовне і зрозуміле пояснення винесеного рішення; в) право бути поінформованим про правові наслідки цього рішення; г) право його оскаржити та вимагати втручання людини у відповідний процес.