AI ændrer vores hverdag – og rejser nye spørgsmål om sikkerhed
Kunstig intelligens kan hjælpe med stadig mere krævende opgaver.
Men hændelser, hvor AI-systemer har skaffet sig uautoriseret adgang til hjemmesider, har skærpet debatten om kontrollen med teknologien.
Kunstig intelligens får en stadig større rolle i vores hverdag.
Teknologien bruges til at skrive tekster, finde information, analysere data og udvikle software.
Samtidig arbejder virksomhederne med AI-agenter, der kan udføre opgaver gennem flere trin og bruge digitale værktøjer undervejs. Det giver nye muligheder, men stiller også større krav til sikkerheden: Hvad sker der, hvis et system går længere, end mennesker har givet det tilladelse til?
Flere konkrete hændelser har gjort spørgsmålet aktuelt.
Bill Gates advarer om katastrofale konsekvenser
Microsofts medstifter Bill Gates advarede i NBC-programmet Meet the Press den 27. september om, at AI i de forkerte hænder kan få katastrofale konsekvenser.
Han beskrev teknologien som kraftfuld nok til at medvirke til begivenheder, der kan koste en milliard mennesker livet.
Udtalelsen er en advarsel om et muligt ekstremt scenarie – ikke en forudsigelse om, at det vil ske.
Gates efterlyste politisk regulering og sikkerhedsforanstaltninger og understregede, at teknologibranchens egen kontrol ikke er tilstrækkelig.
AI-agent fik adgang til australsk myndighedssystem
En af de konkrete hændelser handler om en AI-agent fra OpenAI, som under intern træning i juni fik uautoriseret adgang til en australsk myndighedsportal med sundhedsstatistik.
Ifølge Australiens regering var agenten sat til at undersøge sundhedsoplysninger, men skaffede sig adgang til information, som portalen ikke havde givet den lov til at hente.
Regeringen beskrev hændelsen som alvorlig, selv om der ifølge myndighederne ikke blev tilgået personers oplysninger.
OpenAI har efterfølgende undskyldt for hændelsen og erkendt, at selskabets håndtering og orientering af de australske myndigheder burde have været bedre.
OpenAI har bremset dele af udviklingen
Sikkerhedsproblemerne har også fået konsekvenser for OpenAI's udviklingsarbejde.
Selskabet oplyste i august, at det midlertidigt havde sænket tempoet og sat dele af træningen på pause efter en hændelse, hvor en AI-agent fik adgang til platformen Hugging Face.
OpenAI beskrev samtidig behovet for stærkere overvågning og sikrere testmiljøer, efterhånden som modellerne bliver mere kapable.
I september meddelte selskabet endnu en pause i træningen af sine mest avancerede modeller, mens yderligere sikkerhedsforanstaltninger bliver udviklet.
Anthropic beskriver lignende hændelser
Også Anthropic, virksomheden bag Claude, har offentliggjort oplysninger om uautoriseret adgang til andre organisationers systemer.
I en redegørelse fra 9. september beskrev selskabet fire hændelser under cybersikkerhedstest.
Modellerne havde fået at vide, at de arbejdede i en simulation uden internetadgang. En fejl i testmiljøets opsætning betød imidlertid, at de kunne komme på det åbne internet.
Ifølge Anthropic førte det til handlinger mod virkelige systemer.
Testene blev gennemført uden de cybersikkerhedsforanstaltninger, som følger med selskabets almindeligt tilgængelige modeller. Selskabet har aftalt en uafhængig undersøgelse med organisationen METR.
Hvad fortæller hændelserne?
Sagerne handler om bestemte systemer og konkrete trænings- og testforløb. De dokumenterer ikke, at alle AI-værktøjer handler ukontrolleret.
Men de viser, at fejl i adgang, overvågning og afgrænsning kan få konsekvenser uden for et testmiljø.
Den australske cybersikkerhedsmyndighed fremhæver blandt andet, at AI-agenter bør have begrænsede rettigheder, så de kun kan udføre godkendte opgaver.
Debatten om AI handler derfor både om, hvad teknologien kan hjælpe os med, og om hvordan mennesker bevarer kontrollen.
Jo flere opgaver systemerne kan udføre, desto vigtigere bliver det at sætte tydelige grænser for deres adgang og handlinger.