Насколько опасно внедрение ИИ? Крестный отец ИИ уходит из Google

Быстрорастущее внедрение ИИ подвергает человечество катастрофическим опасностям. В результате шокирующего поворота событий доктор Джеффри Хинтон, широко известный как «крестный отец ИИ», ушел в отставку со своего поста в Google и выступил с суровым предупреждением об опасностях искусственного интеллекта.

Искусственный интеллект оказался самой большой угрозой для человечества

Согласно сообщениям, «крестный отец ИИ» ушел со своего поста в Google, чтобы более открыто говорить о потенциальных рисках технологии искусственного интеллекта. Доктор Джеффри Хинтон более десяти лет работал над алгоритмами машинного обучения в Google, прежде чем покинуть компанию. Сообщается, что его многолетняя работа над нейронными сетями принесла ему это прозвище.

Отставка доктора Джеффри произошла на фоне растущей обеспокоенности по поводу использования искусственного интеллекта в различных отраслях, включая здравоохранение, финансы и транспорт. Критики утверждают, что искусственный интеллект может привести к сокращению рабочих мест, нарушению конфиденциальности и даже разработке автономного оружия.

В интервью газете The New York Times он заявил, что больше всего его беспокоит использование искусственного интеллекта для того, чтобы наводнить интернет фейковыми фотографиями, видео и текстами до такой степени, что люди больше не смогут «различать правду и ложь».

Хинтон также опасался, что технологии искусственного интеллекта заменят человеческий труд. Он считал, что искусственный интеллект может представлять угрозу для человечества в будущем из-за своей способности приобретать неожиданные модели поведения на основе анализа огромных массивов данных. Хинтон также выразил сожаление по поводу своей работы:

Я утешаю себя обычной отговоркой: если бы это сделал не я, это сделал бы кто-нибудь другой.

Доктор Джеффри Хинтон

Отставка доктора Джеффри Хинтона вызвала шок в технологической индустрии, и многие эксперты призывают к усилению надзора и регулирования в области искусственного интеллекта. По мере того как продолжаются дебаты о рисках и преимуществах искусственного интеллекта, становится ясно, что вклад таких пионеров, как доктор Джеффри Хинтон, будет иметь решающее значение в формировании будущего этой быстро развивающейся технологии.

Многие эксперты в области технологий предупреждают об опасностях искусственного интеллекта

В последние месяцы регулирующие органы, законодатели и лидеры технологической индустрии выражали обеспокоенность по поводу развития искусственного интеллекта. В марте более 2600 руководителей и исследователей технологических компаний подписали открытое письмо, призывающее к временной приостановке разработки искусственного интеллекта, ссылаясь на «серьезные риски для общества и человечества»

В апреле двенадцать законодателей Европейского союза подписали аналогичное письмо, а в недавнем проекте закона ЕС инструменты искусственного интеллекта классифицируются по уровням риска. Кроме того, Великобритания выделит 125 миллионов долларов целевой группе по разработке «безопасного ИИ»

Сообщается, что инструменты искусственного интеллекта уже используются для распространения дезинформации, и недавние примеры показывают, как СМИ были обмануты и опубликовали ложные новости. Кроме того, одно немецкое издание использовало искусственный интеллект для фальсификации интервью.

1 мая Binance заявила, что ее генеральный директор Чанпэн «CZ» Чжао является членомdent организации Коммунистической партии Китая, деятельность которой распространяется через чат-бота от ChatGPT, что подтверждается скриншотами этого чат-бота.

На прошлой неделе группа шутников обманула несколько СМИ по всему миру, включая Daily Mail и Thedent. Daily Mail опубликовала статью о якобы умершем канадском актере по имени «Святой фон Колуччи», который, как утверждалось, скончался после пластической операции, призванной сделать его похожим на южнокорейскую поп-звезду. Впоследствии Daily Mail удалила статью.

Каковы потенциальные опасности, которые искусственный интеллект может представлять для человечества?

Существует ряд предсказуемых опасностей, связанных с искусственным интеллектом, для человечества, некоторые из которых уже наблюдаются, а другие могут возникнуть в будущем. Вот некоторые из наиболее тревожных опасностей:

1. Вытеснение рабочих мест: По мере развития искусственного интеллекта существует риск того, что он заменит людей во многих отраслях, что приведет к массовой потере рабочих мест и экономическим потрясениям. Илон Маск отметил, что есть профессии, которые роботы возьмут на себя и будут выполнять лучше, чем люди.

2. Автономное оружие: Разработка автономного оружия, способного принимать решения о том, кого и когда атаковать без вмешательства человека, вызывает серьезную озабоченность. Такое оружие потенциально может привести к непреднамеренному вреду, поскольку оно может выйти из строя или быть взломано.

3. Непредвиденные последствия: По мере усложнения систем искусственного интеллекта возникает риск возникновения непредвиденных последствий, которые могут быть вредными. Например, система искусственного интеллекта, разработанная для максимизации прибыли компании, может непреднамеренно нанести вред окружающей среде или обществу.

4. Предвзятость и дискриминация: системы искусственного интеллекта настолько же беспристрастны, насколько беспристрастны данные, на которых они обучаются. Это означает, что если данные, используемые для обучения, предвзяты, то и система искусственного интеллекта будет предвзятой. Это может иметь серьезные последствия, особенно в таких областях, как уголовное правосудие, где предвзятые системы искусственного интеллекта могут привести к несправедливому обращению с определенными группами.

5. Риски кибербезопасности: По мере развития систем искусственного интеллекта они могут стать более уязвимыми для кибератак. Взлом системы ИИ потенциально может привести к нанесению вреда или нарушению работы критически важных систем.

6. Отсутствие прозрачности и подотчетности: Если системы искусственного интеллекта принимают важные решения, касающиеся жизни людей, например, о предоставлении им кредита или освобождении под залог, важно, чтобы эти системы были прозрачными и подотчетными. Однако существуют опасения, что некоторые системы искусственного интеллекта могут быть непрозрачными и сложными для понимания или проверки.

7. Экзистенциальные риски: Некоторые эксперты выражают опасения, что развитие искусственного интеллекта может представлять экзистенциальную угрозу для человечества, либо посредством разработки сверхинтеллектуального искусственного интеллекта, неподвластного человеческому контролю, либо посредством использования ИИ в военных или иных деструктивных целях.