Лидеры Университета Торонто призывают к осторожности по мере ускорения разработчиков ИИ
- Лидеры в области ИИ, включая Университет Торонто, предупреждают об экзистенциальной угрозе со стороны искусственного интеллекта и призывают политиков действовать оперативно.
- Стремительное развитие ИИ опережает регулирование, создавая риски, сопоставимые с пандемиями и ядерной войной.
- В качестве решения предлагается рыночное регулирование ИИ, которое позволит успевать за стремительным темпом развития технологий.
Область искусственного интеллекта (ИИ) переживает грандиозную трансформацию, отмеченную выдающимися возможностями таких программ ИИ, как Chat-GPT и DALL-E. Эти программы поразили публику своими художественными творениями и способностями к абстрактному мышлению, но также вызвали серьезные опасения. Помимо размышлений теоретиков заговора, лидеры отрасли, включая представителей Университета Торонто (U of T), бьют тревогу по поводу потенциальной экзистенциальной угрозы со стороны ИИ.
Призыв к осторожности
Моник Кричлоу, исполнительный директор Института Шварца-Риссмана (SRI) при U of T, отмечает, что стремительные темпы технологического развития могут опережать нашу способность понимать их последствия. Хотя неясно, представляет ли ИИ действительно экзистенциальную угрозу, SRI призывает мировых лидеров серьезно отнестись к этой возможности.
Сложная история U of T с ИИ
Значение послания SRI усиливается исторической ролью U of T в развитии ИИ. Одиннадцать лет назад Джеффри Хинтон и два аспиранта U of T проложили путь искусственным нейронным сетям, заложив основу для таких технологий, как Chat-GPT. Хинтон, которого часто называют «крестным отцом» ИИ, позже основал Институт Вектор, некоммерческую компанию по исследованиям в области ИИ.
В мае текущего года Хинтон покинул свою должность в Google, выразив сожаление по поводу своего вклада в развитие ИИ. Он признает серьезность экзистенциальных угроз, posed ИИ, и необходимость более ответственного подхода.
Эксперты призывают к законодательству и сотрудничеству
Хинтон и профессор права U of T Джиллиан Хэдфилд входят в число подписантов заявления Центра безопасности ИИ, которое призывает приоритизировать смягчение рисков вымирания, связанных с ИИ. В заявлении подчеркивается важность глобального сотрудничества, сравнивая риски с пандемиями и ядерной войной.
Кроме того, Хэдфилд подписала письмо, выступающее за немедленную остановку обучения систем ИИ, более мощных, чем GPT-4. Это письмо, опубликованное Институтом будущего жизни, выделяет безумную гонку в разработке ИИ, где даже создатели с трудом понимают и контролируют свои творения. В нем призывается к созданию отраслевых надзорных органов и всеобъемлющих регуляторных рамок, подчеркивая необходимость сотрудничества между лабораториями ИИ, бизнесом и правительствами.
Балансирование инноваций и ответственности
Моник Кричлоу уточняет, что письмо с призывом к паузе не намерено подавлять инновации, но поощряет критическое мышление относительно направления технологического прогресса. Оно подчеркивает необходимость направлять ИИ в правильное направление посредством надежных регуляторных мер, что разделяют многие в отрасли.
Регулирование ИИ в Канаде
Палата общин Канады рассматривает законопроект C-27, который представляет собой первую всеобъемлющую попытку Оттавы регулировать ИИ. Среди его положений законопроект возлагает ответственность на разработчиков, дистрибьюторов и менеджеров ИИ по смягчению и мониторингу рисков их технологий. Это включает защиту анонимности персональных данных и предоставление четких объяснений потенциальных рисков потребителям.
Однако предлагаемые регуляции не лишены недостатков. Природа экспоненциального развития ИИ вступает в конфликт с обычно медленными темпами разработки политики. ИИ по своей природе сложен, что затрудняет для государственных чиновников разработку эффективного законодательства для решения потенциальных угроз.
Новый подход к регулированию ИИ
Джиллиан Хэдфилд и Джек Кларк, директор по политике в OpenAI, предлагают рыночный подход к регулированию ИИ. В рамках этой модели разработчики и дистрибьюторы ИИ-технологий будут нести ответственность за покупку регуляторных услуг у стороннего регуляторного органа. Этот подход переносит бремя соответствия скорости разработчиков ИИ на самих разработчиков.
До тех пор, пока такая модель не станет реальностью, правительства по всему миру, включая Канаду, будут с трудом догонять разработчиков ИИ, мчащихся к потенциальному глобальному экзистенциальному кризису.
Быстрое развитие технологии ИИ вызвало серьезные опасения по поводу ее потенциальной экзистенциальной угрозы. Лидеры Университета Торонто и видные фигуры индустрии ИИ призывают к осторожности, призывая политиков принять решительные меры. По мере продолжения дебатов о регулировании ИИ поиск баланса между инновациями и ответственностью остается критической задачей для обеспечения более безопасного и надежного будущего в эпоху искусственного интеллекта.
Самые умные крипто-энтузиасты уже читают нашу рассылку. Хотите присоединиться? Присоединяйтесь.
Отказ от ответственности. Предоставленная информация не является торговой рекомендацией. Cryptopolitan.com Мы не несем ответственности за любые инвестиции, сделанные на основе информации, представленной на этой странице. Мы настоятельно рекомендуем проводить независимое исследование и/или проконсультироваться с квалифицированным специалистом перед принятием любых инвестиционных решений.
Глория Кабуру
Глори — крайне осведомлённый журналист, владеющий инструментами ИИ и методами исследований. Она увлечена темой искусственного интеллекта и является автором нескольких статей по этому вопросу. Она постоянно следит за последними достижениями в области искусственного интеллекта, машинного обучения и глубокого обучения и регулярно пишет об этом.
