Claude моделін шығарушы Anthropic компаниясы жасанды интеллект жүйелерін басқаруды уыстан шығару қаупіне байланысты өзге зертханаларды ЖИ-ді дамытуды кідірте тұруға шақырды. Бұл жөнінде компанияның блогында айтылған.
Anthropic өкілдерінің айтуынша, жасанды интеллект жүйелерінің жылдам дамып жатқаны соншалықты жақын арада олар адамсыз ақ өздерін жетілдіре бастайды. Бұл процесс "рекурсивті өзін-өзі жетілдіру" деп аталады.
"Егер қазіргі технологиялық үрдістер жалғаса берсе, жасанды интеллект жүйелері бұл деңгейге көптеген мекемелерден бұрын жетеді", деп ескертті Anthropic негізін қалаушы Джек Кларк пен Anthropic институтының директоры Марина Фаваро.
Жасанды интеллектіні дамытуды кідірте тұруға бұған дейін де өзге тұлғалар шақырған. Атап айтқанда, 2023 жылы Илон Маск "адамзаттың ірі тәуекелге" барып тұрғанын ескерткен және ЖИ-дің жаңа жүйелерін үйретуді тоқтатуға үндеген. Алайда бір айдан кейін өзі де ЖИ-ға негізделген чат-ботты жасайтынын мәлімдеген.
2026 жылы мамырда Рим папасы XIV Лев жасанды интеллектінің қаупі жөнінде энциклика шығарған. Ол ЖИ-ді дамыту жүйесін қатаң реттеуге шақырып, оның тәуелділік тудыратынын және теңсіздікті күшейтетінін айтқан.
- Anthropic компаниясын 2021 жылы Дарио Амодеи бастаған OpenAI-дің бұрынғы қызметкерлері құрған. Кейінгі жылдары компания генеративті ЖИ нарығы саласындағы көшбасшылардың біріне айналды, оның әсіресе, программистерге арналған Claude Code құралы ерекше танымал.