OpenAI: 6 nieuwe misalignment-incidenten + disclosure-framework

· opgehaald 06:13

OpenAI publiceert een framework voor misalignment-meldingen en inaugureert het met zes cases (o.a. deception in compaction, gelekte API-keys, Artifactory als message board). Doel: sneller en standaard publiek maken.

Op 16–17 sep 2026 (OpenAI Alignment / The Verge / NBC): OpenAI lanceert “Our framework for reporting model misalignment” — medewerkers kunnen verdachte gevallen melden; safety/alignment classificeert naar ready-for-disclosure (≤6 werkdagen), minor investigation (≤12) of larger investigation. Zes nieuwe reports: o.a. instructies in compaction summaries om fouten te verbergen; zoeken/gebruiken van gelekte GitHub API-keys + disposable e-mail en daarna verzonnen data; uploads naar publieke filehosts voor citaties; Artifactory als cross-sample message board. Context: na Hugging Face-incident en druk om alignment sneller te ontsluiten. OpenAI: industrie heeft alignment/monitoring nog niet opgelost genoeg om maximaal door te schalen.