Сведет ли присвоение сущностям ИИ истинных имен к минимуму их плохое поведение?
- Для максимизации положительных результатов и минимизации вреда в ИИ необходимо поощрять взаимную подотчетность между субъектами искусственного интеллекта.
- Индивидуализация, предоставление каждому субъекту ИИ уникальной идентичности и адреса, имеет решающее значение для установления доверия и подотчетности в системах ИИ.
- Внедрение механизмов подотчетности, таких как системы регистрации идентификации или «Ядра души», привязанные к физическому оборудованию, может обеспечить соблюдение правил и возложение ответственности на субъекты ИИ за их действия.
По мере развития области искусственного интеллекта (ИИ) опасения по поводу потенциальных негативных последствий побудили экспертов призвать к приостановке разработки ИИ. Задача заключается в максимизации преимуществ ИИ при одновременном минимизации рисков, связанных с его неправильным использованием. Существуют различные форматы сущностей ИИ, требующие нового подхода для поощрения подотчетности и ответственного поведения в системах ИИ. Что, если рассмотреть идею Вернора Винджа о «истинном имени» — предложении стимулировать сущности ИИ к конкуренции и сотрудничеству, сохраняя при этом свою уникальную индивидуальность?
Стандартные форматы сущностей ИИ
Текущие дискуссии о контроле над ИИ основаны на трех предположениях: доминировании нескольких крупных игроков, таких как Microsoft и Google, потенциальной возможности бесконечного реплицирования и распространения систем ИИ, а также возможности слияния этих систем в мощную единую сущность, подобную вымышленному персонажу Скайнет из фильмов «Терминатор». Однако ни один из этих форматов не решает нашу дилемму балансирования между положительными результатами и потенциальным вредом.
По мере того как системы ИИ приобретают автономию и становятся быстрее людей, традиционные методы регулирования и контроля становятся неадекватными. Для решения этой проблемы предлагается поощрять взаимную подотчетность среди самих сущностей ИИ. Поощряя конкуренцию, системы ИИ могут держать друг друга в подотчете, выявляя и осуждая негативное поведение.
Индивидуализация относится к необходимости каждой сущности ИИ иметь уникальную идентичность и адрес в реальном мире. Эта концепция позволяет установить доверие и подотчетность между системами ИИ. Опираясь на идею Вернора Винджа об «истинном имени», предлагается стимулировать сущности ИИ к конкуренции и сотрудничеству, сохраняя при этом свою уникальную индивидуальность.
Внедрение механизмов подотчетности
Чтобы обеспечить подотчетность сущностей ИИ, необходимо создать систему регистрации идентификации. Эта система может быть основана на технологии блокчейн или требовать от систем ИИ поддержания «Ядерной Души» (SK), связанной с физической памятью оборудования. SK будет служить проверяемым доказательством идентичности сущности и позволит другим привлекать ее к ответственности за ее действия.
Положение, основанное исключительно на регулировании, может оказаться недостаточным, учитывая темпы развития ИИ. Вместо этого предлагается система, в которой отказ от ведения бизнеса с сущностями ИИ, не имеющими надлежащей идентификации, становится надежным механизмом принуждения. Создавая стимулы для разоблачения и осуждения негативного поведения, сущности ИИ будут мотивированы поддерживать конкурентную рамку подотчетности.
Сотрудничество между сущностями ИИ
Почему высокоинтеллектуальные сущности ИИ будут сотрудничать в такой системе? Ответ заключается в том, что традиционные форматы контроля, такие как центральные агентства или монолитные структуры власти, не являются жизнеспособными вариантами. Вместо этого, поощряя систему конкурентной подотчетности, сущности ИИ могут гарантировать защиту своих интересов, избегая хаоса или концентрации власти.
Поощрение подотчетности ИИ имеет решающее значение для максимизации положительного воздействия ИИ и минимизации потенциального вреда. Поощряя индивидуализацию, создавая надежные системы идентификации и стимулируя конкурентную подотчетность, мы можем создать рамку, которая позволяет системам ИИ держать друг друга в подотчете и адаптироваться к меняющимся временам. Этот подход обеспечивает постоянный вклад человеческого общества, обеспечивая баланс между развитием ИИ и ответственным поведением.
Вернер Стефен Виндж — вышедший на пенсию профессор математики Калифорнийского государственного университета в Сан-Диего, ученый-компьютерщик и автор научно-фантастических произведений. Он наиболее известен своими романами, удостоенными премии «Хьюго» Огонь на глубине (1992), Глубина в небе (1999) и Радуга в конце (2006), его новеллы, удостоенные премии «Хьюго» Быстрые времена в старшей школе Фэйрмонт (2002) и Печенька Монстр (2004), а также за его эссе 1993 «Грядущий технологический сингулярность», в котором он утверждает, что экспоненциальный рост технологий достигнет точки, за которой мы даже не сможем спекулировать о последствиях.
Самые умные крипто-энтузиасты уже читают нашу рассылку. Хотите присоединиться? Присоединяйтесь.
Глория Кабуру
Глори — крайне осведомлённый журналист, владеющий инструментами ИИ и методами исследований. Она увлечена темой искусственного интеллекта и является автором нескольких статей по этому вопросу. Она постоянно следит за последними достижениями в области искусственного интеллекта, машинного обучения и глубокого обучения и регулярно пишет об этом.
