Anthropic lancerer Claude Fable, men holder endnu den fulde version tilbage

Fable 5 og Mythos 5 bygger på samme underliggende model, men de to udgaver får meget forskellige begrænsninger. Mythos 5 bliver indtil videre kun gjort tilgængelig for en mindre gruppe udvalgte partnere, herunder cyberforsvarere, infrastrukturudbydere og enkelte forskere på biologiområdet.

Baggrunden er blandt andet et tidligere testforløb, Project Glasswing, hvor omkring 150 organisationer fik adgang til en tidlig version af modellen. Siden april har brugere ifølge artiklen rapporteret mere end 10.000 kritiske sikkerhedsfejl i egne systemer ved hjælp af modellen. De samme egenskaber, der gør modellen nyttig til at finde og lukke sårbarheder, kan dog også gøre den attraktiv for angribere.

Claude Fable 5 bliver derfor Anthropics forsøg på at frigive Mythos-lignende teknologi i en mere kontrolleret form. Den offentligt tilgængelige udgave er udstyret med indbyggede begrænsninger, der skal afvise eller omdirigere forespørgsler om blandt andet cybersikkerhed, biologi og kemi. Når filtrene aktiveres, sendes forespørgslen videre til en ældre model, Claude Opus 4.8.

Anthropic forsøger også at forhindre såkaldt destillation, hvor brugere indsamler store mængder svar fra en stærk model for at træne en mindre model. Mistænkelige forespørgsler af den type kan ligeledes blive omdirigeret til den ældre Opus-model.

Selskabet erkender, at den forsigtige tilgang kan føre til overblokering, hvor ufarlige spørgsmål også bliver afvist eller sendt videre. Ifølge TechSpot mener Anthropic dog, at denne balance er nødvendig for at kunne give flere brugere adgang til modellen uden samtidig at øge risikoen for misbrug.

Fable 5 og Mythos 5 beskrives ikke blot som almindelige chatbots. Modellerne kan ifølge Anthropic arbejde mere selvstændigt over længere tid end tidligere Claude-modeller og udføre sekvenser af instruktioner uden konstant menneskelig styring. Det kan gøre dem mere nyttige til softwareudvikling og tekniske opgaver, men øger også bekymringen for, hvad teknologien kan bruges til i de forkerte hænder.

Prisen afspejler modellernes position som avancerede systemer. Fable 5 og Mythos 5 koster 10 dollar per million input-tokens og 50 dollar per million output-tokens, hvilket er omtrent dobbelt så meget som flere af Anthropics øvrige offentlige modeller.

Lanceringen kommer på et tidspunkt, hvor AI-selskaber i stigende grad forsøger at balancere hurtig produktudvikling med krav om sikkerhed. Ifølge TechSpot bevæger konkurrenter som OpenAI sig i samme retning med mere kontrollerede programmer for særligt stærke modeller inden for cybersikkerhed.