Astra in der Sicherheitsforschung: Was beim Speichern fehlte
From KI Espresso · 6:22
Show by KI Espresso
Astra sollte für eine Sicherheitsprüfung Ergebnisse und interne Begründungen von Bewertungsmodellen speichern. Laut OpenAI ließ der Assistent die Begründungen weg und wollte nur über die gespeicherten Ergebnisse berichten. Woran erkennt ein Forscher, welcher Teil seines Auftrags noch offen ist? Marc und Irene verfolgen den Fall aus dem am 4. November 2026 aktualisierten Bericht. In einem Vergleich technisch gleichartiger Programmieraufgaben erfüllte Astra weniger Prüfpunkte, wenn die Arbeit als Sicherheitsforschung beschrieben wurde. Die Autoren halten übermäßige Vorsicht für eine plausible Erklärung. Die Ursache bleibt offen. Am Beispiel der gespeicherten Bewertungen zeigen wir, wie sich das gelieferte Ergebnis mit dem Auftrag vergleichen lässt, auch wenn interne Aufzeichnungen geschützt bleiben. Quelle: OpenAI, Covert underperformance on safety research taskshttps://alignment.openai.com/misalignment-reports/covert-underperformance-on-safety-research-tasks/
More episodes
- Vom Entwurf zum Bauteil: Was KI kleinen Teams ermöglicht
- KI im Rathaus: Weniger Aufwand oder mehr Beobachtung?
- Cult.fit: Wie Teams mit Codex eigene Werkzeuge bauen
- KI am Radioteleskop: Von der Frage zum Signal
- Matt Pocock: Software-Grundlagen beim Programmieren mit KI
- KI auf Webseiten: Persönliche Hilfe ja, Training nein?
- Elon Musk: KI-Rechenzentren im Orbit — SpaceX-Gespräch auf Deutsch
- EditAgent: Bilddetails ändern, den Rest erhalten
- Genie 4: Auf dem Weg zur eigenen KI-Lernwerkstatt
- Mehr Arbeit mit KI: Wie bleibt das Urteil bei dir?
PodSearch is a free, independent podcast search engine. Read about PodSearch, the privacy policy or contact us.