Inläst: AI gör misstagen nu – inte människorna – transkript

1 00:00:00,740 --> 00:00:07,180 AI gör misstagen nu, inte människorna, av Mikael Pavlo.

2 00:00:08,460 --> 00:00:16,379 När Elon Musk släpper lös X nya rekommendationsalgoritm får vi en försmak av AI-framtiden.

3 00:00:17,000 --> 00:00:25,380 Färre mänskliga regler, fler maskinella bedömningar och plötsligt ett flöde fullt av John Travolta i basker.

4 00:00:25,380 --> 00:00:37,000 Frågan är inte om algoritmen fungerar perfekt. Frågan är om vi verkligen bör reglera bort misstagen innan tekniken ens hunnit mogna, skriver Mikael Pavlo.

5 00:00:38,260 --> 00:00:46,620 Elon Musk släppte under långhelgen For You-rekommendationsalgoritmen för X tidigare Twitter på GitHub.

6 00:00:47,540 --> 00:00:51,820 Därmed går det att ta reda på varför vissa inlägg syns i flödet och andra inte.

7 00:00:52,340 --> 00:00:55,300 Det har skett stora designförändringar.

8 00:00:55,380 --> 00:00:59,880 Och de gamla reglerna där människors styrde innehållet är helt skrotade.

9 00:01:00,480 --> 00:01:10,800 Det är en försmak av framtiden där maskiner nu fattar designbeslut, där människors omdöme tidigare sätts som en helt nödvändig beståndsdel.

10 00:01:11,680 --> 00:01:14,700 John Travolta borde gilla den nya algoritmen.

11 00:01:15,880 --> 00:01:25,360 Algoritmen hämtar inlägg från två källor, rankar dem tillsammans med en transformer-modell baserad på Elon Musks egen stora språkmodell GRO.

12 00:01:25,380 --> 00:01:28,980 Och filtrerar sedan bort olämpligt innehåll.

13 00:01:29,560 --> 00:01:36,300 Det som tidigare var manuellt designade regler och poängformler har i stort sett tagits bort.

14 00:01:36,980 --> 00:01:44,280 Modellen lär sig istället själv vad som är relevant innehåll för dig genom att titta på din engagemangshistorik.

15 00:01:44,840 --> 00:01:47,820 Gillningar, svar, delningar och så vajter.

16 00:01:48,600 --> 00:01:55,220 Ett inlägg lyfts i ditt flöde om modellen utifrån din engagemangshistorik tror.

17 00:01:55,380 --> 00:01:58,260 Att du sannolikt kommer reagera positivt på det.

18 00:01:59,280 --> 00:02:08,520 Inlägget tonas ner eller filtreras bort om den tror att du kommer reagera negativt eller om du bryter motsynlighetsreglerna.

19 00:02:09,120 --> 00:02:19,940 Hela bedömningen görs av en transformer som tränats på beteendedata utan att människor på X manuellt skrivit regler om vad som ska premieras.

20 00:02:20,560 --> 00:02:25,060 Just nu anser maskinen utifrån dessa beskrivna designprinciper.

21 00:02:25,380 --> 00:02:35,900 Att det är en god idé att servera mig otaliga inlägg som berättar att John Travolta har en ny look och ibland en vit och ibland en svart basker.

22 00:02:36,000 --> 00:02:42,780 Jag tror att jag aldrig någonsin gillat ett inlägg med John Travolta eller annars något inlägg om mode.

23 00:02:43,340 --> 00:02:46,120 Men Travolta är överallt i sina baskerar.

24 00:02:47,060 --> 00:02:54,180 Häromdagen skrev Financial Times innovationsredaktör John Thornhill en mycket kraftfullt formulerad krönika.

25 00:02:54,180 --> 00:02:55,180 Där han konstaterar.

26 00:02:55,380 --> 00:02:59,260 Att AI desperat behöver reglering.

27 00:02:59,900 --> 00:03:04,320 Han verkar medveten om att förtidig reglering kan hämma innovation.

28 00:03:04,940 --> 00:03:14,480 Men han följer Christoph Winter och Charlie Bullocks tankar kring att skapa något i stil med Storbritanniens AI Security Institute.

29 00:03:15,200 --> 00:03:23,060 Det är en slags reglerad sandlåda där nya AI-projekt kan säkerhetskollas innan de släpps till allmänheten.

30 00:03:24,680 --> 00:03:25,360 Naturligtvis.

31 00:03:25,380 --> 00:03:31,980 Naturligtvis vill även Antropics vd Dario Amodei också ha strängare regleringar för Frontier-modeller.

32 00:03:32,860 --> 00:03:34,660 Huvudargumentet är mytos.

33 00:03:35,200 --> 00:03:40,740 Det är en ny version av Antropics modeller som är särskilt lämpad för att leta säkerhetsbrister.

34 00:03:41,620 --> 00:03:47,640 Mytos sägs hitta så många stora brister så snabbt att det är för farligt att släppa det.

35 00:03:47,900 --> 00:03:55,300 Samtidigt tar Dario Amodei in nya pengar till bolaget på en sådan nivå att riskkapitalet sina.

36 00:03:55,380 --> 00:03:57,440 Dario Amodei är en av de största bristerna för övriga startups i världen.

37 00:03:58,140 --> 00:04:05,520 Alla och din mormor är nu exponerade mot Antropic via allt från pensionsfonder till familjekontor.

38 00:04:06,540 --> 00:04:08,620 Men tänk på incitamenten här.

39 00:04:09,180 --> 00:04:16,760 Varför vill Dario Amodei göra det svårare för konkurrens inom det område där han just nu bär ledartröjan?

40 00:04:17,380 --> 00:04:22,140 Varför hävdar Amodei att mytos förändrar hela IT-säkerhetsbranschen?

41 00:04:22,140 --> 00:04:24,980 Det handlar som ofta om pengar.

42 00:04:25,380 --> 00:04:35,080 Mytos är mytiskt, men om den scanning som utförts av min Curlify-kollega Daniel Stenberg har något att säga om mytos,

43 00:04:35,420 --> 00:04:38,540 är det en marknadsföringsmyt snarare än verklighet.

44 00:04:39,180 --> 00:04:46,260 När Stenberg scannade sitt eget öppna källkodsprojekt Curl, en av världens mest använda programvaror,

45 00:04:46,260 --> 00:04:54,980 med mytos hittade den en ganska trivial säkerhetsutmaning på 176 000 rader kod.

46 00:04:55,380 --> 00:04:58,160 Eller 660 000 ord.

47 00:04:58,880 --> 00:05:00,460 Inte så imponerande.

48 00:05:01,060 --> 00:05:03,820 Andra säkerhetsverktyg hittar betydligt mer.

49 00:05:04,800 --> 00:05:12,120 Samtidigt kan vi mycket väl snart nå de övre kapaciteterna inom stora språkmodeller i dess nuvarande form.

50 00:05:12,900 --> 00:05:15,600 Borde vi verkligen begränsa innovation nu?

51 00:05:16,420 --> 00:05:24,960 Den tillståndsfria innovation som president Donald Trump har förespråkat kritiseras vagt av Thornhill i sin kolumn.

52 00:05:25,720 --> 00:05:34,440 Samtidigt behöver man komma ihåg att den tillståndsfria innovation och kreativa förstörelse som Schumpeter argumenterade för

53 00:05:34,440 --> 00:05:37,780 gav oss datorer, programvara och internet.

54 00:05:38,260 --> 00:05:46,460 Den verkliga faran är att lyssna på de etablerade AI-aktörerna som försöker hyra och skapa regleringsvallgravar

55 00:05:46,460 --> 00:05:49,680 för att skydda sina överhypade företag.

56 00:05:50,580 --> 00:05:53,400 Hur fungerar då Elon Musks algoritm?

57 00:05:54,000 --> 00:05:54,720 Användarna är givetvis inte så mycket som de är.

58 00:05:54,720 --> 00:05:54,740 Användarna är givetvis inte så mycket som de är.

59 00:05:54,740 --> 00:05:54,780 Användarna är givetvis inte så mycket som de är.

60 00:05:54,780 --> 00:05:54,840 Användarna är givetvis inte så mycket som de är.

61 00:05:54,840 --> 00:05:54,880 Användarna är givetvis inte så mycket som de är.

62 00:05:54,880 --> 00:06:24,860 Användarna är givetvis inte så mycket som de är.

63 00:06:24,860 --> 00:06:24,880 Användarna är givetvis inte så mycket som de är.

64 00:06:24,880 --> 00:06:59,920 Användarna är givetvis inte så mycket som de är.