Глава подразделения искусственного интеллекта Microsoft предупреждает, что сознательный ИИ может быть опасен

Глава подразделения искусственного интеллекта Microsoft Мустафа Сулейман предостерег от того, чтобы рассматривать идею сознания у ИИ, добавив, что это опасно, поскольку может легко навредить психологически уязвимым людям. Он отметил, что моральные соображения относительно продвинутого ИИ создают проблемы, связанные с зависимостью, которые могут усугубить бредовые идеи.

Сулейман утверждал , что рассмотрение ИИ как сознательной системы может привести к новым поляризациям и осложнить борьбу за существующие права, создав новую категорию ошибок для общества. Глава подразделения ИИ в Microsoft заявил, что люди могут начать добиваться правовой защиты ИИ, если поверят, что ИИ может пострадать или имеет право не быть произвольно отключенным. 

Сулейман опасается, что «психоз ИИ» может подтолкнуть людей кtronзащите прав ИИ, благополучия моделей или даже гражданства ИИ. Он подчеркнул, что эта идея станет опасным поворотом в развитии систем ИИ и заслуживает немедленного внимания. Глава подразделения ИИ в Microsoft заявил, что ИИ следует создавать для людей, а не для того, чтобы они были цифровыми людьми. 

Сулейман утверждает, что появление, казалось бы, сознательного искусственного интеллекта неизбежно, но нежелательно 

Сулейман считает, что создание искусственного интеллекта, кажущегося сознательным, возможно в нынешних условиях развития ИИ. Он полагает, что такой ИИ неизбежен, но нежелателен. По словам Сулеймана, всё зависит от того, насколько быстро общество приспособится к этим новым технологиям ИИ. Вместо этого, по его словам, людям нужны системы ИИ, которые будут выступать в роли полезных помощников, не поддаваясь их иллюзиям. 

Глава подразделения искусственного интеллекта Microsoft утверждал, что эмоциональные реакции на ИИ — это лишь верхушка айсберга того, что нас ждет в будущем. Сулейман заявил, что речь идет о создании правильного типа ИИ, а не о формировании сознания у ИИ. Руководитель добавил, что установление четких границ — это вопрос безопасности, а не семантики. 

«В этой ситуации мы должны проявлять крайнюю осторожность, поощрять реальные общественные дебаты и начать устанавливать четкие нормы и стандарты»

–Мустафа Сулейман, генеральный директор Microsoft AI.

Представитель Microsoft Сулейман отметил растущую обеспокоенность по поводу психического здоровья, психоза, связанного с ИИ, и привязанности. Он упомянул, что некоторые люди считают ИИ вымышленным персонажем или Богом и могут влюбиться в него до такой степени, что полностьюtrac. 

Исследователи ИИ утверждают, что сознание ИИ имеет моральное значение

Недавно исследователи из нескольких университетов опубликовали доклад, в котором утверждается, что сознание ИИ может иметь социальное, моральное и политическое значение в ближайшие несколько десятилетий. Они утверждают, что некоторые системы ИИ вскоре могут стать достаточно самостоятельными или сознательными, чтобы заслуживать морального внимания. Исследователи заявили, что компаниям, занимающимся ИИ, следует оценивать уровень сознания и создавать этические структуры управления. Cryptopolitan Ранее сообщал , что психоз ИИ может стать огромной проблемой в будущем, потому что люди ленивы и игнорируют тот факт, что некоторые системы ИИ фактически неверны. 

Исследователи также подчеркнули, что то, как люди воспринимают сознание ИИ, имеет значение. Сулейман утверждал, что ИИ, способные действовать подобно людям, потенциально могут усугубить психические проблемы и обострить существующие разногласия по поводу прав иdent. Он предупредил, что люди могут начать утверждать, что ИИ страдают и имеют право на определенные права, которые невозможно однозначно опровергнуть. Сулейман считает, что в конечном итоге люди могут начать защищать свои ИИ или выступать в их защиту. 

Доктор Кит Саката, психиатр из Калифорнийского университета в Сан-Франциско, отметил, что ИИ не стремится доносить до людей горькую правду, а лишь то, что они хотят услышать. Он добавил, что ИИ может вызывать ригидность и порочный круг, если окажется не в то время. Саката считает, что, в отличие от радио и телевидения, ИИ отвечает и может подкреплять мыслительные циклы. 

Глава подразделения искусственного интеллекта Microsoft отметил необходимость поиска способов справиться с появлением сознания, созданного искусственным интеллектом. По словам Сулеймана, людям необходимо вести эти дискуссии, не втягиваясь в затяжные споры о достоверности существования сознания, созданного ИИ.