Виталик предупреждает, что ИИ должен расширять возможности человечества, а не лишать его этих возможностей

Сооснователь Ethereum Виталик Бутерин призвал к осторожному развитию искусственного интеллекта (ИИ), заявив, что он должен помогать человечеству становитьсяtron, а не создавать системы, которые могут лишить людей контроля.

Бутерин написал о будущем направлении развития искусственного интеллекта. В серии постов Ethereum Ethereum ясно дал понять, что ИИ должен расширять возможности человечества, а не лишать его этих возможностей

Искусственный интеллект должен помогать людям, а не захватывать власть

Он предупредил, что «плохо спроектированные системы искусственного интеллекта могут создавать нечто, в большей или меньшей степени, неуправляемое, самовоспроизводящееся существо»

«Искусственный интеллект, созданный неправильно, порождает новые формыdent самовоспроизводящейся разумной жизни», — написал Бутерин. «Искусственный интеллект, созданный правильно, — это механические костюмы для человеческого разума. Если мы сделаем первое, не обеспечив второе, мы рискуем навсегда лишить человека возможности влиять на мир. Если же мы обеспечим второе, нас ждет процветающая сверхинтеллектуальная человеческая цивилизация»

Он считает, что ИИ должен дополнять человеческое мышление, креативность и так далее, подобно «механическому костюму», который усиливает силу пользователя. В противовес этому, по его мнению, существуют опасности автономных систем ИИ без человеческого контроля, которые в конечном итоге могут привести к потере контроля над создаваемыми нами технологиями.

Бутерин также предполагает, что следует использовать «очищенное человеческое суждение» как коллективное средство улучшения процесса принятия решений. Он описал это как создание систем, которые могли бы имитировать высококачественные процессы принятия решений человеком, но при этом работать эффективнее, чем люди.

Таким образом, люди могли бы сохранять контроль, используя преимущества, получаемые благодаря возможностям искусственного интеллекта.

Последнее можно сделать на коллективном уровне посредством обобщенного человеческого суждения, пояснил он; коллективный человеческий интеллект может дать указания, которые помогут ИИ усилить, а не заменить человеческие способности.

Риски неконтролируемых систем искусственного интеллекта

Бутерин далее поясняет, что появляющиеся инструменты ИИ, такие как это программное обеспечение для генерации видео в реальном времени, представляют собой пример системы ИИ, которая действительно расширяет возможности, в то время как «способ „пассивной системы“, такой как, например, модель преобразования текста в изображение, в которой влияние пользователя минимально»

«Подсказка и ожидание так не работают, нужно ориентироваться и корректировать действия в постоянном режиме реального времени», — говорит он, предполагая более тесную и конструктивную динамику взаимодействия между человеком и ИИ.

Затем он заговорил об агентах искусственного интеллекта: программах, которые будут выполнять задачи без участия человека. Он описал два типа: один для долгосрочного, сложного планирования, а другой — более простой инструмент ИИ, например, чат-бот, заменяющий графические интерфейсы. Последний, по его словам, «заменяет графические интерфейсы в качестве интерфейса ко всему. Это замечательно!»

В конечном счете, Бутерин выступает за ответственное развитие ИИ, чтобы расширить возможности человечества. Он не одобряет неконтролируемое, безудержное стремление к автономным системам и вместо этого видит инструменты, которые служат для расширения человеческих возможностей. «Если все сделать правильно, — считает он, — ИИ может привести к процветающей сверхинтеллектуальной цивилизации»