ИИ может «лгать» как его создатель, но все же не так хитро, как люди, утверждает исследователь

Кредит: CC0 Общественный домен

Появление искусственного интеллекта вызвало различные реакции со стороны технических лидеров, политиков и общественности.В то время как некоторые взволнованно рекламируют технологию ИИ, такую как CHATGPT, как выгодный инструмент с потенциалом для преобразования общества, другие встревожены тем, что любой инструмент с словом «интеллектуальный» в его названии также может обогнать человечество.

Университет Цинциннати Энтони Чемро, профессор философии и психологии в Калифорнийском колледже искусств и наук, утверждает, что понимание ИИ запутано лингвистикой: что, хотя действительно интеллектуален, ИИ не может быть разумным в том, что люди являются, даже являются, даже являются, даже люди, даже люди, даже люди.Хотя «он может лгать, а BS нравится его производитель».

Согласно нашему повседневному использованию этого слова, ИИ определенно интеллектуален, но есть интеллектуальные компьютеры и были годами, объясняет Хемро в статье, которую он в соавторстве в журнале Nature Human Human Behavior.Для начала документ гласит, что CHATGPT и другие системы искусственного интеллекта являются большими языковыми моделями (LLM), обученными огромным объемам данных, добываемых из Интернета, большая часть которых разделяет предубеждения людей, которые публикуют данные.

«LLMS генерирует впечатляющий текст, но часто приносят вещи цельной тканью», - заявляет он.«Они учатся производить грамматические предложения, но требуют гораздо большего обучения, чем люди. Они на самом деле не знают, что значит, что значит», - говорит он.«LLM отличаются от человеческого познания, потому что они не воплощены».

Люди, которые заставили LLMs, называют это «галлюцинирующим», когда они делают вещи;Хотя Chemero говорит: «Было бы лучше назвать это« чушьем », потому что LLMS просто делает предложения, неоднократно добавляя наиболее вероятное следующее слово - и они не знают или не заботятся о том, является ли то, что они говорят правдой.

И с небольшим подталкиванием, по его словам, можно получить инструмент ИИ, чтобы сказать «мерзкие вещи, которые расистские, сексистские и в противном случае предвзятые».

Цель статьи Chemero состоит в том, чтобы подчеркнуть, что LLM не являются умными в том, как люди умны, потому что люди воплощены: живые существа, которые всегда окружены другими людьми и материальной и культурной средой.

«Это заставляет нас заботиться о нашем собственном выживании и мире, в котором мы живем», - говорит он, отметив, что LLM на самом деле не в мире и ни о чем не заботятся.

Основной вывод состоит в том, что LLM не являются умными в том, как люди, потому что они «наплевать», - говорит Чемро, добавляя «вещи для нас.в.”

Больше информации: Энтони Чемро, LLM отличаются от человеческого познания, потому что они не воплощены в поведение человека (2023).Doi: 10.1038/s41562-023-01723-5