Эмуляция нейродегенерации и старения в системах искусственного интеллекта

Верхняя панель - это вопрос, который попросил модель Llama 2, а нижние панели - это ответы, отображающие интригующий качественный снижение понимания и ответа на вопрос, когда один увеличивает шум слева направо.По сравнению с ответом слева можно увидеть средний ответ по -прежнему обрабатывает правильную лингвистическую способность, но не поддержал математическую точность.Дальнейшие звуки добавлены в результате ответа справа, который полностью теряет лингвистические способности.Кредит: Alexos et al.

В последние годы разработчики ввели системы искусственного интеллекта (ИИ), которые могут имитировать или воспроизводить различные человеческие способности, такие как распознавание объектов на изображениях, отвечать на вопросы и многое другое.Тем не менее, в отличие от человеческого разума, который может со временем ухудшаться, эти системы обычно сохраняют одну и ту же производительность или даже улучшают свои навыки с течением времени.

Исследователи из Калифорнийского университета, Ирвин недавно пытался подражать старению и биологической нейродегенерации (то есть прогрессирующей потере нейронов и связанного с ним снижения умственных способностей) у агентов искусственного интеллекта.Их статья, предварительно опубликованная по ARXIV, может проинформировать о будущем развитии инновационных систем ИИ, которые используют эту «искусственную нейродегенерацию» для выполнения конкретных задач.

«Первоначальная идея для этого исследования была вызвана во время ужина с доктором Балди и доктором Пешгаром, где мы обсудили широкий спектр слабо связанных тем по нейродегенерации, обучению и безопасности ИИ»,-соавтор Ю-дай ЦайДокумент сказал Tech Xplore.

«Кроме того, мой отец недавно пережил серьезную травму головного мозга и испытал когнитивные снижения, что вдохновило меня больше подумать об этом предмете под новым углом и его прямых применений в области компьютерных наук и глубокого обучения, в частности».

Это недавнее исследование TSAI и его сотрудников не было нацелено на искусственно воспроизведение человеческих заболеваний мозга.Вместо этого команда хотела произвести когнитивное снижение у агентов искусственного интеллекта с целью лучшего понимания сложных систем, потенциально повышая их интерпретацию и безопасность.

«Мы использовали тесты IQ, выполняемые крупными языковыми моделями (LLMS), и, в частности, Llama 2, чтобы представить концепцию« нервной эрозии », - объяснил Цай.«Эта преднамеренная эрозия включает в себя арбаторные синапсы или нейроны или добавление гауссового шума во время или после обучения, что приводит к контролируемому снижению производительности LLMS».

Исследователи обнаружили, что, когда они намеренно подняли (то есть удалялись) некоторые из искусственных синапсов или нейронов модели Llama 2, ее производительность на IQ -тестах снизилась после конкретной схемы.Их наблюдения могут пролить новый свет на функционирование сложных систем ИИ и возможностей, которые являются первыми и последними, чтобы снизиться, когда их основная структура будет скомпрометирована.

«В дополнение к созданию общей структуры, возможно, наиболее интересным открытием этого исследования является то, что LLM теряет абстрактные способности мышления, за которым следует математическая деградация, и, в конечном счете, потерю лингвистических способностей, отвечая на подсказки непоследовательно», - сказал Цай.«Сейчас мы проводим дальнейшие тесты, чтобы лучше понять эту наблюдаемую паттерн».

Исследователи обнаружили, что когда искусственные синапсы и нейроны удаляются из систем ИИ, эти системы сначала теряют способность мыслить абстрактными способами, затем теряют свои математические способности и, наконец, теряют свои лингвистические навыки (то есть они не могут ответить на подсказки когерентно)ПолемИнтересно, что эта схема «нейроирозии» выровнена с моделями нейродегенерации, наблюдаемыми у людей.

В будущем эта недавняя работа TSAI и его сотрудников может вдохновить другие исследовательские группы на изучение выделенной нейродегенерации у агентов искусственного интеллекта, выходя за рамки предыдущих работ, сосредоточенных на воспроизведении нейродегенерации человека.В совокупности эти работы могут проложить путь к разработке новых методов, которые используют наблюдаемые модели нейроирозии ИИ для решения реальных проблем.

«Это первое из серии исследований. Мы планируем развить наше исследование в отношении конкретных тестов систем ИИ и расширить эмуляцию на другие нейронные заболевания и нейродиверность», - добавил Цай.«Более того, мы будем применять наши методы для повышения безопасности и интерпретации искусственного интеллекта. Мы также стремимся иметь больше сотрудничества и обсуждения с нейробиологами; однако наша основная задача остается на изучении новых границ в исследованиях ИИ, а не на воспроизведении заболеваний мозга человека».

Больше информации: Antonios Alexos и др.Doi: 10.48550/arxiv.2403.10596