Виталик Бутерин предупреждает: ИИ должен расширять возможности человечества, а не лишать их

Сооснователь Ethereum Виталик Бутерин призвал к осторожной разработке искусственного интеллекта (ИИ), заявив, что он должен помогать человечеству становиться сильнее, а не создавать системы, которые могут отнять контроль у людей.

Бутерин написал о будущем направлении развития искусственного интеллекта. В серии постов, сооснователь Ethereum четко дал понять, что ИИ должен расширять возможности человечества, а не лишать их.

ИИ должен помогать людям, а не захватывать власть

Он предупредил, что «плохо спроектированные системы ИИ могут создать нечто, что будет неконтролируемым, само воспроизводящимся субъектом».

«ИИ, сделанный неправильно, создает новые формы независимой само воспроизводящейся интеллектуальной жизни, — написал Бутерин. „ИИ, сделанный правильно, — это мехи-костюмы для человеческого разума. Если мы сделаем первое без второго, мы рискуем постоянной потерей прав человека. Если же мы сделаем второе, мы получим процветающую сверхинтеллектуальную человеческую цивилизацию“.”

Он считает, что ИИ должен дополнять человеческое мышление, творчество и так далее, подобно «мехи-костюму», который усиливает силу пользователя. Это контрастирует с опасностями автономных систем ИИ без человеческого надзора, которые, по его мнению, в конечном итоге могут привести к потере контроля над создаваемой нами технологией.

Бутерин также предполагает, что следует использовать «дистиллированное человеческое суждение» как коллективный способ улучшения принятия решений. Он далее описал это как создание систем, которые могут имитировать высококачественные процессы принятия решений людьми, но выполнять их более эффективно, чем люди.

Таким образом, люди смогут сохранять контроль, извлекая выгоду из возможностей ИИ.

Последнее можно реализовать на коллективном уровне через дистиллированное человеческое суждение, объяснил он; коллективный человеческий интеллект может направлять ИИ, помогая ему усиливать, а не заменять человеческие способности.

Риски неконтролируемых систем ИИ

Бутерин далее уточняет, что появляющиеся инструменты ИИ — такие как это программное обеспечение для генерации видео в реальном времени — являются примером системы ИИ, которая действительно расширяет возможности, в то время как «способ „пассивной системы“, например, текстово-изображения модель, где влияние пользователя очень минимально».

«Запрос и ожидание не работают таким образом, нужно целиться и корректировать на постоянной основе в реальном времени», — пишет он, предлагая более тесную и расширяющую возможности динамику между людьми и ИИ.

Затем он заговорил об агентах ИИ: программах, которые будут выполнять задачи без человеческого ввода. Он объяснил два типа: один для долгосрочного сложного планирования, а другой — более простой инструмент ИИ, такой как чат-бот, заменяющий графические интерфейсы (GUI). Последний, по его словам, «Чат-бот заменяет графические интерфейсы как интерфейс ко всему. Это здорово!»

В конечном итоге Бутерин выступает за ответственную разработку ИИ для расширения возможностей человечества. Он не поддерживает неконтролируемый, необузданный переход к автономным системам и вместо этого видит в инструментах, служащих для улучшения человеческих способностей. «Если сделать это правильно», — считает он, — «ИИ может привести к процветанию сверхинтеллектуальной цивилизации».