Поддержать
Американский специалист по этике технологий и соучредитель Центра гуманных технологий (Center for Humane Technology, CHT) Тристан Харрис призвал изменить стимулы, определяющие развитие искусственного интеллекта. Он считает, что гонка за технологическим превосходством может привести к негативным последствиям, о которых индустрия почти не говорит. Среди возможных решений Харрис называет обязательные тесты безопасности, прозрачность ИИ-лабораторий и разработку узкоспециализированных систем.
По словам Харриса, он уже около двух лет приглашает генерального директора OpenAI Сэма Альтмана на свой подкаст, однако тот не соглашается. Эксперт отметил: «Мне кажется, что он, возможно, немного избегает меня». По мнению Харриса, одной из причин может быть отсутствие четкого ответа на вопрос, к чему в конечном итоге приведет нынешнее развитие ИИ.
В то же время Харрис подчеркивает, что не отрицает положительный потенциал технологии. Он считает, что ИИ может помочь детям выбраться из бедности благодаря демократизации образования, а также способствовать лечению рака. Однако, по словам эксперта, нужно одновременно учитывать непредсказуемые последствия.
«Вполне возможно признавать истинность двух вещей одновременно», — заявил Харрис и добавил, что главный вопрос заключается в том, какую цену общество платит за преимущества технологии, поскольку люди, контролирующие ИИ, редко говорят об этой стороне компромисса.
Эксперт сравнивает ситуацию с социальными сетями. Они принесли обществу определенные преимущества, однако ценой этого стали системная поляризация, разрушение общего понимания реальности и появление, по словам Харриса, самого тревожного и склонного к депрессии поколения в истории. Он предлагает внести определенные изменения и преодолеть этот кризис.
По мнению Харриса, проблема заключается не в самих социальных сетях, а в бизнес-модели, по которой частные компании получают прибыль, тогда как значительная часть ущерба ложится на общество. По словам эксперта, их схема предусматривает:
- получение больших доходов от продукта;
- сокрытие или отрицание вреда;
- политические кампании, направленные на создание сомнений;
- обещания провести дополнительные исследования в будущем.
В случае с социальными сетями, как отмечает Харрис, обществу предлагали ждать годами, чтобы выяснить, действительно ли они вредят детям. Однако в отношении ИИ, по мнению эксперта, времени на такое ожидание нет. Кроме того, часть возможных последствий можно предвидеть заранее, если проанализировать стимулы, которыми руководствуются компании.
Харрис ссылается на высказывание адвоката Чарли Мангера: «Покажите мне стимулы — и я покажу вам результат». Он считает, что стремление компаний как можно быстрее опередить конкурентов может подтолкнуть их к сокращению исследований в области безопасности, недостаточной защите систем, игнорированию роста затрат на энергию и возможной потери рабочих мест ради лидерства в гонке. Недавно на этом также сделали акцент специалисты по технологиям безопасности и анализу данных Брюс Шнайер и Натан Э. Сандерс, которые предлагают национализировать техногигантов в случае провала их бизнес-модели.
По мнению Харриса, анализ стимулов позволяет понять, каким может быть будущее развитие отрасли. Он считает, что обществу необходимо четко определить, какой сценарий оно не принимает, а затем создавать альтернативные модели развития.
Одним из таких вариантов Харрис называет специализированных ИИ-репетиторов, которые не будут пытаться стать для пользователя другом или психотерапевтом. Он приводит пример Khan Academy и предлагает разрабатывать системы, ориентированные на конкретные образовательные задачи.
Подобный подход, по его мнению, можно применить и к ИИ-терапевтам. Они могли бы проводить терапию ограниченной направленности, например когнитивно-поведенческую терапию, не пытаясь вмешиваться в систему привязанности человека или заставлять его раскрывать самые сокровенные мысли.
Харрис также предлагает ввести обязательное тестирование ИИ-систем на безопасность и единые стандарты, которых должны придерживаться все компании. По его словам, в настоящее время разработчики не обязаны проводить такие проверки.
Еще одной мерой он называет общие стандарты прозрачности, которые позволили бы общественности и правительствам ведущих стран получать информацию о том, что происходит в ИИ-лабораториях. Особенно важным Харрис считает получение такой информации до того, как технологии достигнут предела рекурсивного самосовершенствования. Это, по его мнению, дало бы государствам возможность при необходимости заключать международные соглашения, располагая достаточной информацией о развитии технологии.
Вместо создания общего, непрозрачного и автономного ИИ, который может быть опасным и неуправляемым, Харрис предлагает развивать узкоспециализированные системы. Они могли бы использоваться для повышения эффективности сельского хозяйства, совершенствования производства и улучшения образовательных услуг.
По его мнению, такой подход позволил бы развивать нужные обществу отрасли экономики, одновременно ограничивая неконтролируемые риски. Харрис считает, что альтернативный путь возможен, если общество признает нынешнюю гонку ИИ неприемлемой и изменит систему стимулов, которая ее поддерживает.
Историк и футуролог Юваль Ной Харари ранее предупреждал о риске возникновения новых «цифровых империй» и беспрецедентной концентрации глобальной власти в руках США, Китая и узкого круга технологических корпораций, которые контролируют мировые данные и инфраструктуру ИИ. В отличие от империй прошлого, где экономические ресурсы физически оставались в провинциях, код и информацию можно полностью сосредоточить в одном центре. Это создает угрозу потери технологического суверенитета другими странами из-за полной зависимости от внешних систем.
Следить в Телеграмме
Войти с помощью Facebook
Войти с помощью Twitter
Войти с помощью Google