Det går så stærkt med udviklingen af kunstig intelligens, at techgiganterne – tilsyneladende – selv er begyndt at ryste i bukserne.
Anthropics topchef, Dario Amodei, opfordrer til at træde på bremsen. OpenAI-chef Sam Altman bakker op og har samtidig meldt ud, at OpenAI ikke bliver børsnoteret i 2026 med henvisning til blandt andet arbejdet med sikkerhed.
- Denne leder udtrykker Sjællandske Nyheders holdning.
Det er opsigtsvækkende, at de virksomheder, der har milliarder på spil i AI-kapløbet, nu selv advarer mod tempoet. De konkurrerer om penge, talent og markedsandele. Selv den direktør, der oprigtigt ønsker at sætte tempoet ned, har et problem, hvis konkurrenterne fortsætter.
Her er det vigtigt at huske, at regulering ikke nødvendigvis er dårligt for techgiganterne. Omfattende og dyre krav kan gøre det vanskeligere for nye konkurrenter at komme ind på markedet. De største virksomheder har råd til sikkerhedssystemer, dokumentation og kontrol. Det har en lille udfordrer ikke nødvendigvis.
Problemet er, at reguleringen dermed også kan ende med at beskytte de største AI-selskaber mod konkurrence.
Det gør ikke deres advarsler mindre alvorlige. Men det viser, hvorfor det er helt afgørende, at de ikke selv får lov at skrive drejebogen.
Når mennesker med indgående kendskab til de mest avancerede AI-systemer siger, at udviklingen går hurtigere, end de mener er forsvarligt, ville det være letsindigt at slå det hen. Derfor skal politikerne lytte og reagere – også internationalt.
De mest avancerede modeller skal kunne underkastes uafhængige sikkerhedstjek. Amodei foreslår selv uafhængige kontrollanter med adgang til virksomhederne og mulighed for at efterprøve deres sikkerhedsarbejde. Det er et godt sted at begynde. Men kontrollen skal have reel uafhængighed og politisk mandat – ikke være en ordning, techvirksomhederne selv definerer.
Det er pinedød nødvendigt, at vi får styr på de alvorlige risici uden at ende med regler, som kun de største techvirksomheder reelt har råd til at leve op til.
Reglerne må også koordineres internationalt. Ellers risikerer vi, at det land eller den virksomhed, der tager sikkerheden mest alvorligt, også bliver den, der taber kapløbet – og at lande med mindre regulering vinder på det.
Når techgiganterne selv beder om en opbremsning, skal vi lytte. Vi må bare ikke samtidig give dem magten til at bestemme farten.