Anthropic, het bedrijf achter AI-assistent Claude, maakt grote claims. Het bedrijf zegt dat zijn eigen AI een groot deel van de code schrijft. Dat klinkt indrukwekkend. Maar recentelijk liep het bedrijf tegen een pijnlijk incident aan door een menselijke fout.
Anthropics CEO Dario Amodei prees Claude Code openlijk. Hij stelde dat het systeem het grootste deel van de code schrijft. Het bedrijf zet dit ook in als marketingargument. Het toont aan hoe ver AI al staat in softwareontwikkeling. Toch bleek de mens nog altijd een zwakke schakel.
Een medewerker vertrouwde blind op de AI-chatbot. Dit leidde tot een fout die het bedrijf in verlegenheid bracht. Het incident roept een bekende vraag op: wie is er verantwoordelijk als AI iets fout doet? Vroeger gaven mensen graag ‘het systeem’ de schuld. Nu verschuift die discussie. Blind vertrouwen op AI leidt soms tot fouten. En die fouten zijn soms gênanter dan een gewone menselijke vergissing. Zeker als je als bedrijf je eigen AI zo hoog aanprijst.
