Ответственность за ошибки ИИ: кто виноват?

Когда искусственный интеллект (ИИ) допускает ошибки, возникает закономерный вопрос: кто несет ответственность? Современные системы ИИ, не обладая сознанием и свободой воли, затрудняют прямое возложение вины. В то же время, человеческие разработчики также не всегда могут предвидеть все возможные сбои.

Исследователи из Пусанского национального университета представили модель распределенной ответственности, согласно которой обязанности по предотвращению вреда делятся между людьми и самими системами ИИ. Этот подход призван укрепить этические нормы как при разработке, так и при использовании технологий ИИ.

Традиционные этические концепции, основанные на человеческих психологических способностях, таких как намерение и свобода воли, оказываются неэффективными применительно к ИИ. Системы ИИ работают через сложные и зачастую непрозрачные процессы, действуя полуавтономно. Это создает так называемый «разрыв ответственности» в этике ИИ, когда трудно определить виновного.

Доктор Хёнрэ Но, профессор философии из Пусанского национального университета, подчеркивает, что с углублением интеграции ИИ в нашу жизнь, инциденты, связанные с вредом, причиненным ИИ, будут учащаться. Поэтому понимание того, кто несет моральную ответственность за непредвиденный ущерб, становится критически важным.

Системы ИИ не могут нести ответственность по традиционным меркам. Им недостает осознанности, способности понимать моральную значимость своих действий, субъективных переживаний и намерения. Кроме того, они не всегда контролируют собственное поведение и часто не способны объяснить свои решения.

Исследование также опирается на неантропоцентрическую теорию агентности и ответственности, предложенную Лучано Флориди. Эта теория предполагает, что люди, включая программистов, пользователей и разработчиков, несут обязанность контролировать и корректировать системы ИИ, а при необходимости – отключать их. Эта обязанность распространяется и на сами системы ИИ, если они обладают достаточной степенью автономии.

«Вместо того чтобы настаивать на традиционных этических рамках применительно к ИИ, важно признать идею распределенной ответственности. Это подразумевает совместную обязанность как людей, так и самих ИИ-агентов устранять вред, причиненный ИИ, даже если этот вред не был предвиден или намерен», — заключает доктор Но. Такой подход поможет оперативно исправлять ошибки и предотвращать их повторение, укрепляя этические практики.