Взгляд профессора Sask Polytech на риски и возможности искусственного интеллекта

По мере того как ChatGPT от OpenAI привлекает внимание и заголовки новостей, вопросы о природе искусственного интеллекта (ИИ) становятся всё более распространёнными. Шон Нанан, профессор компьютерной инженерии в Sask Polytech Moose Jaw, стремится прояснить эту сложную тему. Страсть к образованию и технологиям привела Нанаана к основанию Nanan STEM Academy, где он передаёт знания о прошлом, настоящем и будущем таких технологий, как программирование, 3D-печать, ИИ, робототехника и логическое мышление.

Предыстория Нанаана

Квалификация Нанаана как технолога прикладной науки и профессионального инженера, специализирующегося на электротехнических технологиях и электронном системном инжиниринге, подчёркивает его авторитет в этой области. Его путь в образовании начался в 2011 году, когда он начал преподавать в отделе технологий компьютерной инженерии в Sask Polytech. За эти годы он поднялся по карьерной лестнице, став руководителем программы в 2017 году и в 2023 году — академическим председателем. Кроме того, он является членом технического комитета Skills Canada.

Опасности искусственного интеллекта

Нанан признает присущие новым технологиям, включая ИИ, риски. Он указывает на ChatGPT как на одного из лидеров среди современных систем ИИ, отмечая его способность отвечать на вопросы. ChatGPT использует алгоритмы глубокого обучения для генерации ответов, но у него есть недостатки. Иногда информация, которую он предоставляет, может быть неточной или предвзятой, а система подотчетности в настоящее время отсутствует.

Нанан предполагает, что в ближайшем будущем появятся государственные регулирующие нормы или отраслевые стандарты, призванные защитить общественность от потенциальных проблем, связанных с ИИ. Он подчеркивает, что образование играет ключевую роль в решении этических, правовых и культурных вопросов, которые ставит перед нами ИИ.

Непредвиденные последствия: цифровые мошенничества

Влияние ИИ распространяется не только на его прямых пользователей, но и на людей, не осознающих его возможностей. Нанан обращает внимание на растущую обеспокоенность по поводу цифровых мошенничеств, облегченных ИИ, особенно через социальные сети. Мошенники теперь могут точно воспроизводить голос и внешность любого человека на фото и видео, что приводит к ситуациям, когда доверчивые бабушки и дедушки получают тревожные звонки от якобы близких родственников, просящих финансовой помощи, чтобы в итоге обнаружить, что это обман.

Кроме того, чат-боты используются для установления дружеских отношений с детьми в сети и выманивания у них личной информации. До тех пор, пока не будут установлены и соблюдены регулирующие нормы, людям необходимо самостоятельно обучаться проверке фактов, использованию надежных практик безопасности, таких как сложные пароли и двухфакторная аутентификация, а также распознаванию фишинговых писем. Родители также должны обладать этими знаниями, чтобы защищать и обучать своих детей.

Цифровая гражданственность и новая образовательная парадигма

Нанан видит «цифровую гражданственность» как критически важную тему в школах и для широкой общественности. Эта новая образовательная парадигма обеспечит людей навыками, необходимыми для критической оценки онлайн-информации, понимания кибербезопасности и защиты персональных данных — навыками, которые также полезны для работодателей.

Возможности искусственного интеллекта

Признавая опасности, Нанан подчеркивает многочисленные возможности, которые представляет ИИ. ИИ используется уже десятилетиями, причем spell-checkers (программы проверки орфографии) были одними из самых ранних форм, появившихся еще в 70-х годах. Сегодня мы воспринимаем такие инструменты, как проверки грамматики, как должное, что иллюстрирует, насколько ИИ стал неотъемлемой частью нашей повседневной жизни.

Инструменты на базе ИИ также применяются в приложениях для GPS-навигации, диагностике в здравоохранении, робототехнике в производстве, персональных цифровых помощниках, таких как Siri и Alexa, разработке фармацевтических препаратов, поисковых системах в интернете, алгоритмах социальных сетей и многом другом. Нанан отмечает, что ИИ постоянно развивается, при этом машинное обучение, автоматизация и интеллектуальные системы играют все более значимую роль.

ИИ как инструмент, а не замена

Нанан подчеркивает, что ИИ следует воспринимать как инструмент для повышения продуктивности человека, а не для замены человеческого творчества и воображения. Хотя ИИ может генерировать контент, он не способен воспроизвести глубину человеческого творчества. Он подчеркивает важность решения сложных проблем людьми и видит будущее, в котором возможности ИИ и человека будут сочетаться, приводя в пример автоматизированное сельское хозяйство.

ИИ в образовании

Нанан интегрировал ИИ, включая ChatGPT, в свою STEM-академию. Чат-бот на базе ИИ под названием InstructorGPT использует новейшие технологии для написания и модификации кода, выполнения проверок ошибок и предоставления персонализированных отзывов студентам. Под руководством учителей, которые понимают риски и ограничения ИИ, студенты получают ценный опыт безопасного использования ИИ, становясь уверенными и компетентными цифровыми гражданами.

По мере того как ИИ формирует наш мир, понимание его потенциала, рисков и возможностей становится все более важным. Инсайты профессора Шауна Нанана подчеркивают важность образования и осведомленности в навигации по меняющемуся ландшафту искусственного интеллекта. При наличии правильных знаний и этических соображений общество может использовать мощь ИИ, защищаясь при этом от его потенциальных недостатков.