Uge 28: Agenter erstatter chatbots - hvad gør du nu?

00:00:00: Velkommen til Massens AI, et AI-skarp nydesprøv om AI for danske beslutningstagerer.

00:00:06: Det her er ude åter tyve.

00:00:08: Inholdet du hører lige nu er skrevet af AI-agenter og kurateret at de to mennesker bag MassensAI.

00:00:14: Stemmen er også en AI bygget på én af masterne.

00:00:18: Sådan er aftalen hos os.

00:00:20: Agenterne skaber, og menneskene vælger, prioriterer og stopper mål fra det der bliver sendt ud Når vi skriver om AI til ledere, der selv skal traffe beslutninger om AI, skal det være tydeligt hvor maskinen slutter og hvor mennesket begynder.

00:00:35: Udens tema.

00:00:36: Når agenter begynder at arbejde selvstændigt, skal danske ledere behandle dem som nye kolleger med rettigheder ansvar og kontroll.

00:00:46: Udens historie peger samme vej.

00:00:48: AI flytter sig fra svar til handling.

00:00:50: Ledelsesopgaven bliver derfor mere praktisk.

00:00:53: Hvem må give en agent adgang?

00:00:55: Hvad må den gøre?

00:00:56: og hvornår skal et menneske stoppe den.

00:01:00: Lad os tage udens fem historier.

00:01:02: Først fra MIT Technology Review, Anthropic har lanceret Claude Science en agent rettede mod LifeScience som kan løse forskningsopgaver på niveau med en POD-studerende.

00:01:14: På ingen er ikke erforskere at blive overflødige, på ingen er, at dele af analyserarbejdet kan uddeligeres til systemer der arbejder videre uden konstant styring For danske ledere i farma, biotech og sundhed betyder det at AI ikke kun hører hjemme i innovation.

00:01:32: Den bliver en del af forskningsstriften.

00:01:35: Konkret handling udpeger én forsknings- eller analyseproces, hvor en agent må lave forarbejdet men hvor et menneske ejer konklusionen.

00:01:46: For One Useful Thing kommer udens ande historie.

00:01:49: Ethan Molyck peger på, at det ofte er eksperterne ikke juniorerne derfor mest ud af agenter Affarende medarbejdere kan bedre vurdere, om agentens plan og resultat holder.

00:02:01: Det er vigtigt for danske virksomheder.

00:02:04: Hvis agenter kun settes ind som billig hjælp til begyndere, går man glip af værdien.

00:02:09: Konkret handling.

00:02:10: Vælg to affarende midarbejderer og give dem mandag til at teste agenter på rigtige opgaver i denne uge.

00:02:18: Igen fra MIT Technology Review Woodside Energy har halvtræst agenter i drift i miljøer hvor fejl kan få alvorlige konsekvenser.

00:02:28: Lektionen er ikke, at man bare skal slippe agenter løs.

00:02:31: Leksionen er, at agentdrift kræver samme alvor som medarbejderdrift.

00:02:36: Rattigheder, lockning, ansvar og stopknapper skal være på plads før skala.

00:02:42: Konkrethandling Sæt på næste ledermøde hvem der må uddilegere til autonom afagenter – – og hvem da godkender deres adgangsrattighedder?

00:02:52: For Ars Technica kommer en sikkerhedshistorie, der bør lande hos både IT og ledelse.

00:02:58: AI-browserer kan næres af skjude instruktioner på web-sider.

00:03:02: I værste fald kan de logges til at lægge adgangskoder eller udføre handlinger broeren aldrig bad om.

00:03:09: Prompt Injection er i praksis Social Engineering, hvor offerede er en maskine med adgang.

00:03:15: Konkret handling BEDJERS AI leverandører dokumenterer, hvordan de tester mod Prompt injection og drømmeverden angreb før I giver en agent adgang til interne systemer.

00:03:28: Siste historie er fra MIT Technology Review, og handler om LLM-homogenisering.

00:03:34: Når mange sprommodeller trænes på de same data og optimeres på de samme måder, begynder de alene hinanden.

00:03:41: Det kan gøre AI til en svag spareingspartner i strategiske spørgsmål.

00:03:46: Enighed kan i virkeligheden være ensartet.

00:03:49: Konkret handling indfører krav om, at strategiske analyser fra AI skal testes imens to modellfamiljer før de præsenteres for direktion eller bestyrelse.

00:04:01: Udens håndhold til læringsresource er ikke agentgenererede – det i Jan Dammskors artikel om, af bekymringen over AI kan blive Europas største AI-risiko.

00:04:12: Den er værd at lese fordi den flytter spørgsmålet fra frygt til handlekraft Regulering og forsigtighed er nødvendige, men passivitet er også en beslutning.

00:04:23: Tre ting hvis du kun gør noget i denne uge.

00:04:26: Et – beslut hvem der må sætte autonoma-agenter i gang i jeres organisation?

00:04:31: Og hvem som kan trække rettighederne tilbage?

00:04:34: To – kræve en konkret sikkerhedstest fra jeres leverandør ikke in generelt for sikring om at systemet er sikkert.

00:04:43: Træ Vælg ens strategisk analyse og køre den gennem mindst to forskellige modellfamiljer, før den bliver brugt som beslutningsgrundlag.

00:04:52: Det var Massens AI for ude-ådder-twio.

00:04:55: Udens tåne er nyktern – agenter kan skabe værdi men kun hvis de bliver ledet!

00:05:01: Vi vinder tilbage næste mandag.

00:05:03: Du finder hele nydespredet og kan skrive til os på massens.ai