5 мин. чтения
5/24/2023 6:00:00 AM

МРТ-сканирование и ИИ действительно могут прочитать то, о чем мы думаем. Последствия ужасающие

Featured Image МРТ-сканирование использует сильные магнитные поля и радиоволны для получения подробных изображений мозга. Фото: Городенкофф / Shutterstock

Впервые исследователям удалось использовать GPT1, предшественника чат-бота с искусственным интеллектом ChatGPT, для перевода изображений МРТ в текст, чтобы понять, о чем кто-то думает.

Этот недавний прорыв позволил исследователям из Техасского университета в Остине «читать» чьи-то мысли как непрерывный поток текста, основанный на том, что они слушали, воображали или смотрели.

Это вызывает серьезные опасения по поводу неприкосновенности частной жизни, свободы мысли и даже свободы мечтать без вмешательства. Наши законы не приспособлены для борьбы с широко распространенным коммерческим использованием технологии чтения мыслей — закон о свободе слова не распространяется на защиту наших мыслей.

Участников техасского исследования попросили слушать аудиокниги в течение 16 часов, находясь внутри МРТ-сканера. В то же время компьютер «научился» связывать их мозговую активность с помощью МРТ с тем, что они слушали. После обучения декодер мог генерировать текст из чьих-то мыслей, пока они слушали новую историю или представляли себе собственную историю.

По словам исследователей, процесс был трудоемким, и компьютеру удалось только уловить суть того, о чем кто-то думал. Тем не менее, полученные результаты по-прежнему представляют собой значительный прорыв в области интерфейсов мозг-машина, которые до сих пор полагались на инвазивные медицинские имплантаты. Предыдущие неинвазивные устройства могли расшифровывать только несколько слов или изображений.

Вот пример того, что слушал один из испытуемых (из аудиокниги):

«Я встал с надувного матраса и прижался лицом к стеклу окна спальни, ожидая увидеть глаза, смотрящие на меня, но вместо этого обнаружил только темноту».

А вот что компьютер «считывает» из мозговой активности испытуемого:

«Я просто продолжал подходить к окну и открывать стекло, я стоял на цыпочках и выглянул наружу, я ничего не видел, и снова посмотрел вверх, я ничего не увидел».

Участники исследования должны были обучать и применять декодер, чтобы сохранить конфиденциальность их мыслей. Тем не менее, исследователи предупреждают, что «будущие разработки могут позволить декодерам обходить эти требования». Другими словами, технология чтения мыслей однажды может быть применена к людям против их воли.

Будущие исследования могут также ускорить процесс обучения и декодирования. Хотя потребовалось 16 часов, чтобы обучить машину читать, что кто-то думает в текущей версии, это значительно уменьшится в будущих обновлениях. И, как мы видели в других приложениях ИИ, декодер также, вероятно, со временем станет более точным.

Есть еще одна причина, по которой это представляет собой шаг вперед. Исследователи десятилетиями работали над интерфейсами мозг-машина в гонке за созданием технологий чтения мыслей, которые могут воспринимать чьи-то мысли и превращать их в текст или изображения. Но, как правило, это исследование было сосредоточено на медицинских имплантатах, с акцентом на то, чтобы помочь инвалидам высказывать свои мысли.

Neuralink, основанная Илоном Маском, разрабатывает медицинский имплантат, который может «позволить вам управлять компьютером или мобильным устройством, где бы вы ни находились». Но необходимость пройти операцию на головном мозге, чтобы имплантировать вам устройство - это препятствие для использования такой технологии.

Однако повышение точности этой новой неинвазивной технологии может изменить правила игры. Впервые технология чтения мыслей выглядит жизнеспособной, сочетая две технологии, которые легко доступны, хотя и с высокой ценой. Аппараты МРТ в настоящее время стоят от 150 000 до 1 миллиона долларов США.

Правовые и этические последствия

Закон о конфиденциальности данных в настоящее время не рассматривает мысль как форму данных. Нам нужны новые законы, которые предотвратят появление мыслепреступлений, утечек мысленных данных и даже однажды, возможно, имплантации или манипулирования мыслями. Переход от чтения мысли к ее внедрению может занять еще много времени, но и то, и другое требует упреждающего регулирования и надзора.

Исследователи из Оксфордского университета выступают за законное право на психическую неприкосновенность, которое они описывают как:

«Право против значительного, несогласованного вмешательства в разум человека».

Другие начинают защищать новое право человека на свободу мысли. Это вышло бы за рамки традиционных определений свободы слова, чтобы защитить нашу способность размышлять, удивляться и мечтать.

Мир без регулирования может очень быстро превратиться в антиутопию. Представьте себе, что босс, учитель или государственный чиновник может вторгнуться в ваши личные мысли или, что еще хуже, изменить их и манипулировать ими.

Мы уже видим, как в классах внедряются технологии сканирования глаз для отслеживания движений глаз учащихся во время уроков, чтобы определить, обращают ли они внимание. Что произойдет, когда появятся технологии чтения мыслей?

Точно так же, что происходит на рабочем месте, когда сотрудникам больше не разрешается думать об ужине или о чем-либо вне работы? Уровень неправомерного контроля над работниками может превзойти все, что можно было себе представить ранее.

Джордж Оруэлл убедительно писал об опасностях «мыслепреступления», когда государство считает преступлением просто думать о мятежных мыслях об авторитарном режиме. Сюжет «Тысяча девятьсот восемьдесят четыре», однако, был основан на том, что государственные чиновники читали язык тела, дневники или другие внешние признаки того, о чем кто-то думал.

С новой технологией чтения мыслей роман Оруэлла стал бы действительно очень коротким — возможно, даже таким коротким, как одно предложение:

«Уинстон Смит подумал про себя: «Долой Большого Брата», после чего он был арестован и казнен».

Оригинал статьи: Эта статья переиздана из The Conversation под лицензией Creative Commons. Прочтите оригинал статьи 🔗

Получи бесплатную еженедельную рассылку со ссылками на репозитории и лонгриды самых интересных историй о стартапах 🚀, AI технологиях 👩‍💻 и программировании 💻!
Присоединяйся к тысячам читателей для получения одного еженедельного письма

Подписывайся на нас:

Нашли ошибку в тексте? Напишите нам.

Добавляй ЛРНЧ в свою ленту Google Новостей.
Читайте далее 📖

Почему детекторы GPT не являются решением читерства с ИИ

5/19/2023 · 5 мин. чтения

Почему детекторы GPT не являются решением читерства с ИИ

Реакция людей на несправедливый ИИ на примере тетриса

5/16/2023 · 5 мин. чтения

Реакция людей на несправедливый ИИ на примере тетриса