OpenAI нужен DAO для управления ChatGPT

Децентрализованная автономная организация могла бы помочь решить проблемы, связанные с политическими пристрастиями ChatGPT и его потенциалом для злоупотреблений.

ChatGPT, большая языковая модель, которая может общаться с пользователями, является одной из новаторских моделей OpenAI. Хотя у этой технологии есть множество преимуществ, некоторые опасаются, что ее необходимо регулировать таким образом, чтобы обеспечить конфиденциальность, нейтральность и децентрализованные знания. Децентрализованная автономная организация (DAO) может стать решением этих проблем.

Во-первых, конфиденциальность является серьезной проблемой, когда дело доходит до использования ChatGPT. Чтобы улучшить свои ответы, модель собирает данные от пользователей, но эти данные могут содержать конфиденциальную информацию, которую отдельные лица могут не захотеть разглашать центральному органу. Например, если пользователь раскрывает ChatGPT свою финансовую или медицинскую историю, эта информация может храниться и использоваться способами, которых он не ожидал и не разрешал. Если информация получена неавторизованными сторонами, это может привести к нарушению конфиденциальности или даже краже личных данных.

Кроме того, ChatGPT может использоваться для незаконных действий, таких как фишинговые мошенничества или атаки социальной инженерии. Имитируя человеческое обсуждение, ChatGPT может заставить пользователей раскрыть личную информацию или предпринять действия, которые они обычно не делают. Крайне важно, чтобы OpenAI установил четкие политики и процедуры для управления и хранения пользовательских данных, чтобы устранить эти опасения по поводу конфиденциальности. DAO может гарантировать, что данные, собранные ChatGPT, хранятся децентрализованным образом, где пользователи имеют больший контроль над своими данными и где к ним могут получить доступ только авторизованные организации.

Во-вторых, растет обеспокоенность по поводу политической предвзятости в моделях искусственного интеллекта, и ChatGPT не является исключением. Некоторые опасаются, что при дальнейшем развитии этих моделей они могут непреднамеренно усилить существующие социальные предубеждения или, возможно, ввести новые. Чат-бот с искусственным интеллектом также может использоваться для распространения пропаганды или ложной информации. Это может привести к несправедливым результатам, которые оказывают негативное влияние как на отдельных лиц, так и на сообщества. Модель может давать предвзятые ответы, отражающие предубеждения разработчиков или обучающих данных.

DAO может гарантировать, что ChatGPT обучается на основе объективных данных и что ответы, которые он выдает, тщательно изучаются широким кругом людей, таких как представители различных компаний, академических институтов и общественных организаций, которые могут обнаружить и исправить любую предвзятость. Это минимизировало бы возможность предвзятости, гарантируя, что решения по ChatGPT принимаются с учетом различных точек зрения.

DAO может также внедрить систему сдержек и противовесов, чтобы убедиться, что ChatGPT не усиливает уже существующие предрассудки в обществе или не вводит какие-либо новые. DAO может, например, внедрить процедуру аудита ответов ChatGPT, чтобы убедиться, что они беспристрастны и справедливы. Это может повлечь за собой привлечение непредвзятых профессионалов, которые изучат комментарии ChatGPT и укажут на любые случаи предвзятости.

Наконец, еще одна проблема с ChatGPT – это централизация знаний. Модель имеет доступ к огромному количеству информации, что выгодно во многих отношениях. Это может привести к монополии на знания, поскольку знания сосредоточены в руках небольшого числа людей или организаций. Аналогичным образом, существует риск того, что обмен знаниями только между человеком и машиной станет нормой, в результате чего люди будут полностью зависеть от машин в плане коллективных знаний.

Например, программист, столкнувшийся с проблемой кодирования, мог ранее прибегнуть к Stack Overflow, чтобы обратиться за помощью, разместив свой вопрос и получив ответы от других программистов-людей, которые, возможно, столкнулись с подобными проблемами и нашли решения. Тем не менее, по мере распространения языковых моделей искусственного интеллекта, таких как ChatGPT, программисты все чаще задают запрос и затем получают ответ без необходимости общаться с другими людьми. Это может привести к тому, что пользователи будут меньше взаимодействовать и делиться знаниями в Интернете — например, на таких веб-сайтах, как Stack Overflow, — и к консолидации знаний в рамках языковых моделей AI. Это может значительно подорвать человеческую активность и контроль над производством и распространением знаний, что сделает их менее доступными для нас в будущем.

Нет простых ответов на сложную проблему централизации знаний. Однако это подчеркивает необходимость более децентрализованной стратегии производства и передачи знаний. DAO, который предлагает основу для более демократичного и открытого обмена информацией, может помочь в этой ситуации. Используя технологию блокчейн и смарт-контракты, DAO может позволить людям и организациям работать вместе и вносить свой вклад в общий объем знаний, имея при этом больший контроль над тем, как осуществляется доступ к этим знаниям.

В конечном счете, DAO может предложить структуру для контроля и управления операциями ChatGPT, гарантируя децентрализованное хранение пользовательских данных, ответы, которые тщательно проверяются на предмет предвзятости, и более демократичный и открытый обмен информацией. Использование DAO может стать жизнеспособным решением этих проблем, обеспечивая большую подотчетность, прозрачность и контроль над использованием ChatGPT и других языковых моделей искусственного интеллекта. Поскольку технология искусственного интеллекта продолжает развиваться, крайне важно, чтобы мы уделяли приоритетное внимание этическим соображениям и предпринимали упреждающие шаги для решения потенциальных проблем до того, как они станут проблемой.

Эта статья предназначена для общих информационных целей и не предназначена и не должна восприниматься как юридическая или инвестиционная консультация. Взгляды, мысли и мнения, выраженные здесь, принадлежат только автору и не обязательно отражают или представляют взгляды и мнения Cointelegraph.

Author: admin