Почему люди продолжают фантазировать о том, что ИИ приведет к апокалипсису?

Всем привет, это Майкл Рейли.

\ Сейчас только начало 2024 года, но кто-нибудь еще устал от уровня драмы и гипервентиляции вокруг ИИ? Особенно поразительным для меня является готовность некоторых людей призывать катастрофу — настоящие апокалиптические видения нашего будущего — чтобы описать свои шикарные чат-боты и генераторы изображений.

\ Я думаю, в частности, о недавней перепалке в X между Винодом Хослой и Марком Андриссеном, двумя самыми известными венчурными фирмами Кремниевой долины, которые также являются инвесторами OpenAI. То, что началось как обсуждение того, была ли хорошей идеей открытие проприетарного кода OpenAI, каким-то образом привело к сравнению продуктов компании с Манхэттенским проектом.

\ Точка зрения Хослы, казалось, была сосредоточена на проблемах национальной безопасности при открытии очень сложного кода ИИ для всех, кто может решить использовать его не по назначению. Но такой апокалиптический разговор заложен в основе ДНК OpenAI, компании, которая начиналась как целенаправленное усилие по созданию компьютерного суперинтеллекта, который затмил бы человеческий разум. В конце 2022 года OpenAI выпустила ChatGPT, и фанфары действительно взлетели. Так же как и катастрофизация, которая распространилась от таких людей, как Сэм Альтман, который, будучи главой компании, имеет личную заинтересованность в том, чтобы его технология звучала Действительно Мощно.

\ Почему технари любят говорить о вещах в апокалиптических терминах? Давайте будем справедливы: *всем* нравится говорить о конце времен. Древние цивилизации, религиозные тексты, голливудские кинопродюсеры, мейнстрим-медиа, интернет-теоретики заговора — технические руководители не одиноки. В человеческой природе есть что-то врожденное, что заставляет верить, что мир находится на грани катаклизма.

\ Но конкретно для технарей я задаюсь вопросом: Сэм Альтман говорит, что ему нужно 7 триллионов $ для преобразования мира в утопию, управляемую ИИ, потому что он искренне верит, что это хорошее использование денег (слышал ли он об изменении климата)? Это просто маркетинг? Чем опаснее звучит их технология, тем больше внимания она привлекает, а значит, и больше денег, как с точки зрения инвестиций, так и оценки компании. Эта стратегия... похоже, работает очень хорошо! OpenAI оценивается в 80 миллиардов $.

\ Однако реальная проблема заключается в том, что этот блестящий объект отвлекает от реальных последствий ИИ в жизни. Программное обеспечение, которое использует большие массивы данных для прогнозирования о мире, уже существует и активно делает свое дело. В некоторых случаях — как в системе оценки субсидированного жилья в Лос-Анджелесе, Системе раннего предупреждения об отсеве в Висконсине, инструментах обнаружения плагиата и множестве других хорошо задокументированных случаев, от найма до уголовного правосудия — оно вредит людям.

\ Если бы они потрудились обратить внимание, я думаю, Великие Технологические Брокеры Власти в основном согласились бы с идеей, что мы должны исправить системы, подобные тем, которые The Markup исследовал в Лос-Анджелесе или Висконсине, чтобы они работали более справедливо и равноправно. Но игнорируя эти, признаемся, гораздо менее сексуальные темы и вместо этого сосредотачиваясь на спорах о том, как ИИ приведет к концу времен — или что только через мудрое руководство первосвященников венчурного капитала мы можем быть спасены от разрушения — нас просят сосредоточить наше внимание на фантазии.

\ И эй, кто не любит хорошую фантазию. Просто убедитесь, что оставили место для реальности.

\ Спасибо за чтение,

Майкл Рейли

Управляющий редактор

The Markup

\ PS – если вы дочитали до этого места или просто пропустили до конца, вы заслуживаете чего-то интересного. Вот несколько (в основном связанных с ИИ) вещей из интернета, которые я нашел действительно интересными в последнее время. Надеюсь, они дадут вам пищу для размышлений на этих выходных:

• Эта история от Карен Хао в The Atlantic — одна из лучших статей, которые я читал о природных ресурсах, потребляемых Великим Хайпом ИИ 2020-х годов.
• Наш собственный Росс Тейшейра поговорил с несколькими учителями по всему миру о том, как они используют ИИ в классе. Я нашел их ответы увлекательными.
• Новички на блоке 404 Media убивают своими эксклюзивными материалами почти ежедневно с момента их запуска шесть месяцев назад. Если ИИ собирается уничтожить мир, то это потому, что он будет использоваться для того, чтобы утопить нас всех в спаме TikTok.
• Наш бывший коллега, Леон Инь, и его коллеги из Bloomberg провели удивительное расследование о том, как инструмент рекрутинга OpenAI GPT имеет встроенную расовую предвзятость. Визуально потрясающе, а также отличный образец журналистики.
• Эта небольшая компания считает, что Америке нужно начать использовать машины для голосования, которые работают полностью на открытом исходном коде.

Авторы

• Майкл Рейли, Управляющий редактор

Редактирование

• Сиси Вэй

Дизайн и графика

• Габриэль Хонгсдусит

Взаимодействие

• Мария Пуэртас

\ Также опубликовано здесь

\ Фото Милен Одебург на Unsplash

\