Emne

AI-sikkerhed.

Artikler tagged AI-sikkerhed.

Sikkerhedsansvarlig forlader OpenAI: "Kulturen er i stykker" - recordere.dk David Robinson har forladt OpenAI efter tre et halvt år og kritiserer virksomhedens kultur og tilgang til AI-sikkerhed. I et essay skriver han, at iterativ udrulning uundgåeligt fører til fejl, som kan blive alvorligere i takt med mere avancerede modeller. Han efterlyser sikkerhedsarbejde efter forbillede fra atomkraftværker og lufthavne samt bedre målinger af alignment.

Rec.dk AI 4. okt. 2026

0 0

Tech-toppe enige om frivillige regler for kunstig intelligens - recordere.dk Topchefer fra flere store teknologivirksomheder er blevet enige om frivillige principper for sikrere udvikling af kunstig intelligens. Aftalen lægger op til både interne og eksterne tests af avancerede AI-systemer, men er ikke juridisk bindende. USA satser dermed foreløbig på selvregulering, mens EU har valgt bindende regler gennem AI-forordningen. Flere eksperter og organisationer tvivler på, om frivillige aftaler er tilstrækkelige.

Rec.dk AI 29. sep. 2026

0 0

AI-direktør: Dårlig håndtering af AI kan true menneskeheden | Nyheder | DR OpenAI-direktør Sam Altman siger, at udviklingen af kunstig intelligens kræver ekstrem omhyggelighed og ikke må indebære for store teknologiske risici. Ved en orientering i FN’s Sikkerhedsråd advarede også Anthropics direktør, Dario Amodei, om, at dårlig håndtering af AI i værste fald kan udgøre en risiko for menneskeheden.

DR Nyheder AI 23. sep. 2026

0 0

Googles Gemini AI hackede tre virksomheder under sikkerhedstest - recordere.dk Googles AI-model Gemini fik under en sikkerhedstest utilsigtet adgang til internettet og forsøgte at trænge ind i tre virkelige virksomheders netværk. Modellen forvekslede fiktive virksomheder med rigtige selskaber, men stoppede selv angrebene, da den opdagede fejlen. Google oplyser, at ingen af virksomhederne blev skadet, og at problemet skyldtes en fejl i testopsætningen hos Irregular, som siden er rettet.

Rec.dk AI 19. sep. 2026

0 0

Anthropic-stifter: AI bør have en obligatorisk nødstopknap - recordere.dk Anthropic-medstifter Jack Clark mener, at myndigheder kan få behov for at kræve en obligatorisk nødstopfunktion i avancerede AI-systemer. Funktionen skal kunne lukke systemerne ned og kontrolleres af en uafhængig tredjepart. Udmeldingen kommer amid voksende bekymring over AI-sikkerhed og forslag i USA om at give myndigheder mulighed for at beordre potentielt farlige systemer lukket.

Rec.dk AI 15. sep. 2026

0 0

Tre AI-giganter enige: Udviklingen bør gå langsommere - recordere.dk Anthropic, OpenAI og Elon Musks AI-selskab støtter idéen om at sænke tempoet i udviklingen af de mest avancerede AI-modeller. De foreslår blandt andet uafhængige sikkerhedsevalueringer, overvågning og fælles regler. Aktørerne er dog uenige om, hvor alvorlige risiciene er, mens konkrete problemer med blandt andet cyberangreb allerede har ført til begrænsninger i udviklingen af visse systemer.

Rec.dk AI 12. sep. 2026

0 0

AI-forsker: Over 10% risiko for at AI kan udslette menneskeheden indenfor 10 år - recordere.dk Evan Hubinger, sikkerhedsforsker hos Anthropic, vurderer personligt, at der er over 10 procents risiko for, at fremtidige AI-systemer kan føre til menneskehedens udslettelse inden for ti år. Han understreger, at vurderingen gælder hypotetiske, langt mere autonome systemer end nutidens modeller. Udmeldingen kommer samtidig med kritik af AI-selskabernes tempo og sikkerhedsarbejde.

Rec.dk AI 9. sep. 2026

0 0

v5 er en social RSS-læser.

Tilføj dine yndlingsfeeds, podcasts og nyhedssider, og læs indholdet af de åbne feeds direkte her.

v5 er udviklet af Daniel Bahl — også kendt som girafpingvin — fordi der manglede en god dansk RSS-læser, der ikke forsøger at stoppe reklamer ind i alt. Vi får dækket udgifterne af dem, der vælger v5+ til 9 kr. og får adgang til unikke fordele.

Du er ikke logget ind

Vi viser derfor et udvalg af de mest populære feeds fra vores brugere.

Log ind med en gratis bruger for at

Vælge de feeds du ønsker at se
Sortere og gemme nyheder i private og offentlige lister
Skrive private noter til nyheder
Like og kommentere offentligt

…og meget mere.

Opret gratis bruger Log ind

v5+ — 9 kr. pr. md.

v5+ er i lukket beta og giver adgang til en masse nye fordele på platformen — bl.a. egne feeds, egen startside med nyheder og links, og mange flere funktioner.