Этика искусственного интеллекта: почему моральное суждение важнее интеллекта

Тема пришла из обсуждения на Reddit: пользователи r/artificial спорили о dangers искусственного интеллекта. Пост набрал много голосов за день — значит, задело.

Проблема не в интеллекте

Этик из Йельского университета Уэнделл Уоллах, который изучает ИИ уже 25 лет, считает, что главная опасность не в том, что ИИ станет superintelligent. А в том, что он может быть чрезвычайно умным, но с нулевым моральным суждением.

«Система может быть чрезвычайно умной и иметь нулевое моральное суждение. Мы строим возможности, не спрашивая, на что она способна».

Проблема ответственности

Когда ИИ причиняет вред, кто несет ответственность? Уоллах утверждает, что в большинстве случаев ответственного просто нет.

«Мы построили системы, которые позволяют автоматизировать ответственность. Это не только техническая проблема, но и фундаментальный провал в том, как мы определяем агентство».

Анализ рынка: что уже существует

В России

• Этические комитеты по ИИ — есть при некоторых университетах и компаниях, но нет единой платформы для обсуждения.
• Курсы по этике ИИ — читаются в некоторых вузах, но нет массового онлайн-образования.

За рубежом

• Yale Digital Ethics Center — центр по изучению этики ИИ при Йельском университете.
• AI Ethics Lab — лаборатория по изучению этики ИИ, проводит исследования и разрабатывает рекомендации.

Незакрытая ниша: нет платформы для обсуждения и решения проблем этики ИИ в России.

Читайте также

• Сотрудники Palantir начинают сомневаться: а не работаем ли мы на злодеев?
• Meta сокращает 10 % сотрудников в погоне за искусственным интеллектом
• Этика искусственного интеллекта: почему отсутствие морального интеллекта опаснее, чем суперразум