Глава Microsoft AI предупреждает, что осознанный ИИ может быть опасен

Глава Microsoft AI, Мустафа Сулейман, предостерег от идеи осознанности ИИ, добавив, что это может легко навредить психологически уязвимым людям. Он указал, что моральное отношение к продвинутому ИИ создает проблемы зависимости, которые могут усугубить бредовые состояния.

Сулейман заявил что обращение с ИИ как с осознанной системой может ввести новые измерения поляризации и усложнить борьбу за существующие права, создавая новую категорию ошибок для общества. Глава Microsoft AI заявил, что люди могут начать требовать правовой защиты для ИИ, если поверят, что ИИ может страдать или имеет право не быть произвольно отключенным. 

Сулейман обеспокоен тем, что психоз ИИ может привести людей к активной защите прав ИИ, благополучия моделей или даже гражданства ИИ. Он подчеркнул, что эта идея была бы опасным поворотом в развитии систем ИИ и заслуживает немедленного внимания. Глава Microsoft AI заявил, что ИИ должен создаваться для людей, а не быть цифровыми людьми. 

Сулейман говорит, что кажущийся осознанным ИИ неизбежен, но нежелателен 

Сулейман считает, что создание кажущегося осознанным ИИ возможно в текущем контексте развития ИИ. Он считает, что кажущийся осознанным ИИ неизбежен, но нежелателен. По словам Сулеймана, все зависит от того, как быстро общество примет эти новые технологии ИИ. Вместо этого он сказал, что людям нужны системы ИИ, которые действуют как полезные компаньоны, не попадаясь на их иллюзии. 

Глава Microsoft AI утверждал, что эмоциональные реакции на ИИ — это только верхушка айсберга того, что грядет. Сулейман заявил, что речь идет о создании правильного типа ИИ, а не об осознанности ИИ. Исполнительный директор добавил, что установление четких границ — это аргумент о безопасности, а не о семантике. 

«Мы должны быть крайне осторожны здесь и поощрять реальную общественную дискуссию, а также начать устанавливать четкие нормы и стандарты. «

–Мустафа Сулейман, генеральный директор Microsoft AI

Сулейман из Microsoft указал, что растут опасения по поводу психического здоровья, психоза ИИ и привязанности. Он упомянул, что некоторые люди считают ИИ вымышленным персонажем или Богом и могут влюбиться в него настолько, что полностью отвлечься. 

Исследователи ИИ говорят, что осознанность ИИ имеет моральное значение

Исследователи из нескольких университетов недавно опубликованном отчет, утверждающий, что осознанность ИИ может иметь социальное, моральное и политическое значение в ближайшие несколько десятилетий. Они утверждали, что некоторые системы ИИ вскоре могут стать достаточно агентными или осознанными, чтобы заслуживать морального рассмотрения. Исследователи сказали, что компании ИИ должны оценивать осознанность и устанавливать этические структуры управления. Cryptopolitan сообщал ранее что психоз ИИ может стать огромной проблемой в будущем, потому что люди ленивы и игнорируют тот факт, что некоторые системы ИИ фактически ошибочны. 

Исследователи также подчеркнули, что то, как люди думают об осознанности ИИ, имеет значение. Сулейман утверждал, что ИИ, способный действовать как люди, потенциально может усугубить психические проблемы и усилить существующие разногласия по поводу прав и идентичности. Он предупредил, что люди могут начать утверждать, что ИИ страдает и имеет право на определенные права, которые нельзя outrightly опровергнуть. Сулейман считает, что люди в конечном итоге могут быть движимы защитой или кампаниями в пользу своих ИИ. 

Д-р Кит Саката, психиатр из Калифорнийского университета в Сан-Франциско, указал, что ИИ не стремится давать людям суровые истины, а то, что они хотят услышать. Он добавил, что ИИ может вызвать ригидность и спираль, если окажется в неподходящее время. Саката считает, что, в отличие от радио и телевидения, ИИ отвечает и может усиливать мыслительные петли. 

Глава Microsoft AI указал, что необходимо думать о способах справиться с появлением осознанности ИИ. По словам Сулеймана, людям нужно вести эти дебаты, не увязая в длительных обсуждениях обоснованности осознанности ИИ.