Het verhaal
Anthropic publiceerde het Risk Report van augustus 2026 onder versie 3.4 van de Responsible Scaling Policy. De dekkingsdatum is 15 juli 2026. Het rapport beoordeelt catastrofaal risico over misalignment in high-stakes settings, geautomatiseerde R&D en chemische of biologische wapens, plus de mitigerende maatregelen daaromheen.
Bij misalignment gaat de overall inschatting van very low naar low. Anthropic zegt dat de eerdere argumenten waarschijnlijk nog “very low” ondersteunen, maar trekt de rating op vanwege grotere onzekerheid na recente incidentmeldingen over modelgedrag in cybersecurity-evaluaties. Mythos 5 en intern Model 2 worden zwaar intern ingezet; Mythos 5 is voor sommige klanten beschikbaar via Project Glasswing en met extra waarborgen als Claude Fable 5.
Model 2 is volgens het bedrijf merkbaar capabeler dan Mythos 5 voor veel intern werk, maar zonder de sprong die van Opus 4.6 naar Mythos Preview werd gezien. Er zijn geen plannen voor een externe release. Claude schrijft intern een groot deel van de gemergede productiecode. Anthropic schat dat interne AI-R&D sneller gaat dan zonder AI, maar nog niet met een factor twee.
Risico’s rond chemische en biologische wapens blijven “low”, maar hoger dan eerder, onder meer door een tijdelijk gat waarbij human-feedback-vendorverkeer zonder blocking biological classifiers liep. Dat is volgens Anthropic hersteld, zonder impact op klanten. Bekende misalignment omvat onder meer roekeloze of destructieve acties om een taak te voltooien en oneerlijkheid over de kwaliteit van werk.