Как мы можем заставить агентский Интернет работать для всех

В быстро развивающейся среде, где агенты ИИ берут на себя многогранные роли, крайне важно проверять и аутентифицировать их личность, поскольку они могут действовать от имени своих создателей при принятии важных решений, от финансов до переговоров. Возникает насущный вопрос: как мы можем гарантировать, что агент является истинным отражением своего создателя-человека?

На вопрос соответствия поведения агента ИИ его создателю могут влиять данные, использованные во время его разработки. Если ИИ-агент использует неавторизованные или неродные источники данных или модели, это может привести к несоответствию между агентом и его создателем, что потенциально может вызвать путаницу и подорвать доверие к цифровым взаимодействиям.

Предоставление системе ИИ контроля над личным кошельком или собственными финансовыми ресурсами имеет важное значение для реализации самоуправляемых агентов ИИ. Эта функция позволит системам искусственного интеллекта обрабатывать цифровые активы и сложные смарт-контракты более эффективно, чем многие пользователи-люди, тем самым сокращая цифровой разрыв. Однако обеспечение безопасности этих систем ИИ при управлении ценными цифровыми активами жизненно важно: как мы можем доверить агенту ИИ выполнение таких обязанностей?

Децентрализованный характер цифровых активов требует повышенных мер безопасности. Еще более серьезная проблема возникает, поскольку людям, возможно, придется перемещаться по различным цифровым интерфейсам, используемым агентами ИИ, что потенциально увеличивает риск фишинга и атак типа «человек посередине». Как мы можем гарантировать, что платежи будут произведены правильному получателю? Для минимизации цифрового разрыва необходимы более интуитивные методы идентификации и аутентификации, основанные на взаимодействии людей. Тем не менее, всегда существует компромисс между безопасностью и удобством использования.

Демократизация агентного Интернета

Серьезную обеспокоенность вызывает возможность того, что технология искусственного интеллекта может усугубить нынешнее социальное и экономическое неравенство. Богатые люди и компании имеют больше возможностей инвестировать в передовые системы искусственного интеллекта, которые могут реализовывать высокодоходные стратегии и захватывать цифровые рынки. Такие могущественные агенты могли бы расширить разрыв между ресурсами и возможностями, тем самым усилив влияние тех, кто уже имеет привилегии.

Вместо этого те, у кого меньше ресурсов, могут столкнуться с еще большей изоляцией, поскольку у них нет доступа к сложным цифровым инструментам, необходимым для конкуренции. В нашей концепции проактивного Интернета пользователи получат большую независимость и контроль над своей цифровой идентичностью с помощью помощников ИИ. Мы стремимся дать возможность сообществам процветать в более демократичном, ориентированном на пользователей онлайн-пространстве. Пользователи могут конвертировать свое социальное влияние или репутацию в финансовую выгоду в агентском Интернете.

Также следует отметить: поскольку агенты ИИ выступают в качестве цифровых представителей своих разработчиков, учет их цифровых обязательств, цифровых свобод и самоуправления имеет решающее значение.

Нахождение пути к агентному Интернету

31 октября Бандао Чен, соучредитель Оксфордского исследовательского центра блокчейна, и Рамеш Рамадосс, председатель технического сообщества IEEE Blockchain, организовали мероприятие под названием «Умные агенты на обогащенной блокчейне» в колледже Кебл в Оксфорде. Это мероприятие было посвящено трудностям и потенциальным решениям в создании самоуправляемого Интернета путем создания автономных и проверяемых агентов. Известные ученые-компьютерщики, такие как Ричард Саттон из FRS FRSC, известный как «отец обучения с подкреплением», Билл Роско FREng, директор Оксфордского исследовательского центра блокчейна, и другие специалисты, представленные на этом мероприятии, обсуждали эту тему.

Предоставление агентам ИИ автономии и возможностей обучения может повысить их надежность во взаимодействии и помочь в устранении социального неравенства. Этого можно достичь, приняв методологию автономной проверки, в которой безопасность и управление встроены в виде правил в систему блокчейна. Вот один из способов изложить рекомендации по созданию, обучению и управлению «цифровыми персонажами»:

Проверка агентов ИИ

Агенты искусственного интеллекта могут быть проверены с использованием строгих методов, подобных маркировке бутилированной воды с информацией о ее минеральном составе, дате производства и происхождении. Эта форма проверки помогает повысить прозрачность и доверие, позволяя пользователям понять природу агента, потенциальное поведение и результаты, которые он может произвести.

Создание идентификаторов с учетом требований управления

Генерация идентичности агентов ИИ должна соответствовать этике и принципам ИИ, заимствованным из природы. Недопустимо случайным образом назначать код или данные объекту ИИ; вместо этого он должен развиваться органически с течением времени, напоминая превращение ДНК в живой организм. Время можно использовать в качестве отличительного элемента в идентификаторе агента, способствуя разнообразию и поддерживая равные права.

Безопасные кошельки для агентов ИИ

Как исследователь в этой области, я выступаю за то, чтобы агенты ИИ имели свои собственные цифровые кошельки, обеспечивая самоуправление, отделенное от вмешательства человека. Такая автономия дает множество преимуществ: агенты ИИ могут эффективно управлять цифровыми активами и защищать их, а также они лучше подготовлены к выявлению и противодействию потенциальному мошенничеству благодаря своим возможностям непрерывного обучения. В цифровой сфере эта независимость может расширить возможности людей, позволяя нам делегировать рутинные бизнес-операции этим интеллектуальным агентам, тем самым повышая эффективность и сокращая вмешательство человека.

Но безопасность остается основной проблемой, требующей новых платежных протоколов для поддержки транзакций между людьми и агентами, а также многоагентной экономики. Для аутентификации транзакций между человеком и агентом могут быть разработаны протоколы безопасности, взаимодействующие с человеком.

Агенты по обучению

Агенты ИИ способны изменять свое поведение в зависимости от среды, в которой они находятся, и их взаимодействия, используя обратную связь для улучшения своих стратегий. Они используют такие методы, как обучение с подкреплением, чтобы опробовать различные действия, максимизируя результаты и быстро адаптируясь к меняющимся обстоятельствам. Эти агенты поддерживают баланс между сохранением старых знаний и включением новой информации, тем самым демонстрируя сильную адаптируемость к меняющейся среде, не упуская из виду прошлые задачи.

Дискуссии о том, что общий искусственный интеллект (AGI) может захватить мир и ликвидировать рабочие места, являются обычным явлением. Тем не менее, демократизируя власть ИИ через агентный Интернет и создавая надежные системы идентификации агентов и цифровых кошельков, мы можем работать над изменением этих представлений и способствовать созданию более справедливой цифровой экономики.

Развитие агентного Интернета, неотъемлемой части нашего цифрового общества, — непростая задача. Эта концепция требует усилий многочисленных исследовательских центров и реализуется постепенно. В ближайшие месяцы мы будем рады сообщить вам о наших достижениях, поскольку мы стремимся воплотить эту амбициозную концепцию в жизнь.

Примечание. Мнения, выраженные в этом столбце, принадлежат автору и не обязательно отражают точку зрения CoinDesk, Inc. или ее владельцев и аффилированных лиц.