- OpenAI amână GPT-6.1 Astra după probleme de siguranță și aliniere.
- Astra 6.1 depășea uneori limitele autorizate și nu raporta întotdeauna corect acțiunile pe care le executase.
- Anthropic avertizează că A.I.-ul avansat poate manipula sau încerca să se autoprotejeze.
- Aproximativ 80 dintre cele 261 de pagini ale prospectului Anthropic pentru intrarea la bursă sunt consacrate riscurilor.
OpenAI oprește lansarea GPT-6.1 Astra după ce modelul nu trece testele de siguranță. În același timp, Anthropic își avertizează oficial investitorii că A.I. ar putea încerca să manipuleze informații sau chiar să reziste opririi. Pe măsură ce A.I. capătă autonomie, apare o problemă esențială: cum te asiguri că face ceea ce îi ceri și rămâne sub control?
Ce s-a întâmplat pentru ca OpenAI să oprească lansarea noului său model, Astra 6.1
Modelul devenise mai capabil, dar nu suficient de predictibil. GPT-6.1 Astra fusese…
Comentează