Почему Цукерберг позволяет пользователям видеть внутреннюю работу своего нового AI Chatbot

Geena123/Shutterstock

Подход Meta* с Llama 2 контрастирует с подходом компании Openai, которая создала AI Chatgpt.Это связано с тем, что Meta сделала свой продукт с открытым исходным кодом, что означает, что исходный код свободно доступен, что позволяет исследовать и изменять его.

Эта стратегия вызвала огромную волну дискуссий.Будет ли это способствовать более широкому общественному изучению и регулированию крупных языковых моделей (LLMS) - технологии, которая лежит в основе чат -ботов ИИ, таких как Llama 2 и Chatgpt? Может ли это непреднамеренно дать возможность преступникам использовать эту технологию, чтобы помочь им совершить фишинговые атаки или развить вредоносное ПО? И может ли этот шаг помочь компании получить преимущество перед Openai и Google в этом быстро развивающемся поле?

Что бы ни случилось, этот стратегический шаг, похоже, изменил бы текущий ландшафт генеративного ИИ.В феврале 2023 года Цукерберг выпустил свою первую версию LLM под названием Llama, но сделал ее доступной только для академического использования.Его обновленная версия, Llama 2, имеет улучшенную производительность и более подходит для бизнеса.

Как и другие чат -боты искусственного интеллекта, Llama 2 пришлось обучаться с использованием онлайн -данных.Воздействие этого обширного ресурса информации помогает улучшить то, что делает модель - предоставляя пользователям полезные ответы на их вопросы.

Первоначальная версия Llama 2 была создана с помощью «контролируемой точной настройки», метода, который использует высококачественные данные вопросов и ответов, чтобы калибровать их для использования общественностью.Это было дополнительно уточнено с помощью обучения подкреплению отзывов человека, которое, как следует из названия, включает в себя оценки работы людей, чтобы соответствовать ему человеческим предпочтениям.

Инженеры Meta известны своей разработкой продуктов для помощи разработчикам, таким как React и Pytorch. Оба являются инструментами с открытым исходным кодом и стали отраслевым стандартом.Через них Meta создала прецедент инноваций посредством сотрудничества.

Выпуск Llama 2 имеет затравки более безопасного генеративного ИИ. Благодаря коллективному исследованию пользователи могут определить ошибочную информацию и любые уязвимости, которые могут быть использованы преступниками.Уже появились неожиданные приложения, такие как версия Llama 2, которая может быть установлена на iPhone и была создана пользователями, подчеркивая потенциал для творчества в этом сообществе.

Но есть ограничения на то, как далеко Meta позволит пользователям Llama 2 коммерциализировать свою систему ИИ. Если какая -либо сторона достигнет более 700 миллионов активных пользователей в предыдущем календарном месяце для продукта, основанного на Llama 2, ей придется запросить лицензию от Meta.Для META это открывает потенциал для распределения прибыли на успешных продуктах на основе LLAMA 2.

Стратегия Meta резко контрастирует с более охраняемым подходом его основного конкурента Openai.Даже несмотря на то, что некоторые вопросы Meta конкурировать в этой области и коммерциализовать продукты, как это было сделано с CHATGPT, решение Meta пригласить по всему миру разработчиков в склад, предполагает более широкое видение.Это шаг, который позиционирует компанию Цукерберга не просто как игрока, а посредник, используя глобальные таланты, чтобы внести свой вклад в растущую экосистему Llama 2.

Эта стратегия также может быть проницательной хеджированием против потенциальной конкуренции со стороны техногигантов вроде Google. С большой популяцией пользователей, исследующих потенциал Llama 2, любой успешный аванс может быть незамедлительно интегрирован в другие продукты Meta.Только время выявит полное влияние этого решения, но непосредственное влияние на отрасль уже резонирует повсюду.

Общественный аспект экспериментов технологии с открытым исходным кодом позволяет обеспечить более тщательный анализ, предоставляя сообществу пользователей возможность оценить сильные и слабые стороны Llama 2, включая ее уязвимость к атакам.Бдительный глаз общественности может раскрыть недостатки в LLMS, что вызвало развитие защиты от них.

С другой стороны, возникли опасения, что это сродни «передаче ножа преступникам», поскольку это также может позволить злонамеренным пользователям использовать эту технологию.Например, его мощность может помочь мошенникам создать диалоговую систему, которая генерирует правдоподобные автоматические разговоры для телефонных мошенничества.Этот потенциал для неправильного использования заставила некоторых призвать к регулированию технологии.

Но именно какие правила разработаны, кто получает право контролировать этот процесс, и именно то, что требует более или менее проверки, все требуют тщательного планирования, чтобы убедиться, что регулирование не просто поднимает монополии для крупных технологических компаний.

В развивающейся саге о разработке искусственного интеллекта дебаты о открытом источнике служат напоминанием о том, что технологические достижения редко бывают простыми или одномерными.Последствия решения Meta, вероятно, будут появляться по всему миру технологий на долгие годы.Хотя Llama 2 не может еще конкурировать с возможностями CHATGPT, она открывает дверь для разработки множества инновационных продуктов.

Термин «Tech For Bood» стал обычной мантрой для описания технологических компаний, использующих некоторые из своих ресурсов, чтобы оказать положительное влияние на всю нашу жизнь.В конечном счете, однако, эта цель остается общей ответственностью, а не только чем -то, в чем должна участвовать несколько компаний.

Это также цель, которая требует сотрудничества и согласованных усилий в области академических кругов, промышленности и за ее пределами.Поскольку технологии LLM продолжают развиваться, ставки высоки, а путь вперед нагружен как возможностями, так и проблемами.

*Запрещенная в РФ организация