News - Рывок ИИ к 'сверхинтеллекту' вызывает дебаты

Генеральный директор SoftBank, Масайоши Сон, называет последнее творение OpenAI шагом к 'супер интеллект'. Присоединяясь к голоса с пионером в сфере ИИ Anthropiс, Сон подчеркивает эпоху, в которой ИИ может превзойти человеческие возможности. Передовая модель OpenAI автономно создает своих преемников, подталкивая человеческих инженеров к новым ролям в области надзора и проверки. Согласно мнениям Anthropic, ускоренная эволюция ИИ может значительно повлиять на научные и медицинские сферы, предлагая потенциальные прорывы в понимании и лечении. Однако подъем ИИ также несет в себе риски, в частности возможную потерю человеческого контроля. Идея 'рекурсивного самосовершенствования', при которой ИИ строит более умные версии самого себя, вызывает и восторг, и осторожность. Хотя такие достижения обещают эффективность и быстрый научный прогресс, они также бросают вызов существующим нормам безопасности и контроля. Текущие человеческие способности в определении приоритетов исследований и оценке остаются превосходящими, но этот ландшафт может быстро измениться по мере того, как ИИ-системы становятся более искусными в самосовершенствовании. Будущее, в котором ИИ-системы контролируют свое собственное развитие, зависит от достижений в области вычислительной мощности и алгоритмической эффективности. Последствия этого сдвига могут переопределить экономические модели и динамику труда, вынуждая людей сосредоточиться преимущественно на контроле ИИ. Несмотря на призывы к осторожному продвижению, Anthropic предупреждает против замедления прогресса ИИ, так как это может непреднамеренно усилить менее рассудительных участников, увеличивая общий риск. Диалог продолжается, поскольку общество пытается использовать обещание ИИ, одновременно защищая себя от его потенциально разрушительных последствий.