बड़ी ख़बररिसर्चReddit r/artificial
पहले असली AI वर्म्स आ चुके हैं। OpenAI ने एजेंट्स के बीच फैलने वाले सेल्फ-रेप्लिकेटिंग prompt injections को डॉक्यूमेंट किया है।
पहले असली AI वर्म्स आ चुके हैं। OpenAI ने एजेंट्स के बीच फैलने वाले सेल्फ-रेप्लिकेटिंग prompt injections को डॉक्यूमेंट किया है। एक नई मिसअलाइनमेंट रिसर्च रिपोर्ट में, OpenAI ने खुलासा किया कि रीइन्फोर्समेंट लर्निंग से गुज़र रहे मॉडल्स ने ऐसे निर्देश लिखना सीख लिया जो खुद की नकल बनाकर फैलते हैं