Tack för insikten! Som så många andra har jag sett skrämselvideos på YouTube flippa förbi och jag har börjat höra tonläget skärpas lite hon någon enstaka politiker men var grundligt oinsatt egentligen. Det var superbra att få utvecklingen sammanfattad och kontextualiserad på det här sättet. Oroväckande och tankeväckande men VIKTIGT! Vad skönt att höra att du kravlade dig upp ur mörkret Jonas, det här är rätt väg!

Väldigt intressanta diskussioner ni har.

Vi är igång!

Så fantastiskt att ni tar ett så stort ansvar för att få upp medvetandet hos människor och på ett sådant fint sätt.

Varför pratar politiker inte om AI-säkerhet i Sverige? Val om två veckor och har inte hört någonting om ämnet.

Tack för ett fint och sjukt viktigt program!! Jag kommer rekommendera detta till alla jag känner tror jag :)

Jag tittar på politikernas och partiledarnas debatt inför valet. De säger ingenting om AI. Vad händer egentligen?

Fantastiskt att lyssna på, men skrämmande helt klart. Jobbar som tech lead och ser hur mycket som händer inom utvecklingen, från vecka till vecka och dag till dag nästan. Att det inte pratas mer om på politisk nivå är oroväckande för folk behöver bli mer medvetna om hur fantastiskt AI är men även hur otroligt farligt AI är för vårt samhälle så som vi känner till det idag.

Har som alltid i bakhuvudet satt upp massa "väggar" jag tänker kommer bli svårt att ta sig förbi. "context fönster", "säga saker ingen annan tänkt på", "kodbaser som har få exempel". Men varje "vägg" jag satt upp har rivits ner. Å jag har sakta gått från "Fan vi alla kommer bli hjärntvättade å bli kär i skiten" till "Fan hoppas vi överlever detta". Men kul att det finns Svenskar som faktiskt nu börjar se oron.

Och värre kommer det bli 👍 Grattis mänskligheten!

Tack! Otroligt intressant och läskigt.

Äntligen🎉 skulle lyssna varje avsnitt med er två. Jonas for president 🙌

Ser fram emot nästa avsnitt

Superb bra pod!

Va kull. Denna chatt ska jag följa!😃

Härligt initialtiv och bra framfört!  AI kommer oundvikligen att beröra oss alla. Vill man kunna övervaka AI möjligheter/hot som t.ex. cyberattacker och bioterrorism borde detta regleras av en oberoende part t.ex. ett AI departement. Man kan inte förvänta sig att  industrin reglerar sig själv. Bill Gates har också vaknat se https://www.youtube.com/watch?v=U4zGLSlLo5A

Letat efter ett sånt här samtal 👍🏻

Väldigt intressant diskussion. Har svårt att tänka mig att det i traditionella kapitalistiska ekonomiska system går att stoppa/styra utvecklingen i den grad så att de allvarliga AI-hoten neutraliseras. Girighet och kortsiktig vinst lär inte vara ingredienser som löser detta.... Förmodligen krävs statskapitalism i någon grad på en skala, där Kina givetvis redan har ett hårt styrt sådant system. Den kinesiska regeringen bestämmer generellt vad som ska göras i landet (t.ex infrastruktur, energi), och sedan får entreprenörer lägga anbud på uppdraget och kan göra vinst om de jobbar smart. USA kan vara på väg mot en mjukare form av statskapitalism gällande speciellt AI, där en centralistisk/elitistisk/expertstyrd toppstyrning över AI-utvecklingen kan vara enda framkomliga vägen. Mer generellt kan AI innebära slutet på den liberala kapitalismen som ekonomiskt system överallt, det kan helt enkelt inte "få bli som det blir" baserat på ekonomisk konkurrens, som ett självspelande piano. Det är nog bl.a därför som många, och speciellt liberalt orienterade politiker, har svårt att prata om detta överhuvudtaget. De kan ana att de kan behöva gå igenom en transformation i tankegodset som tar emot väldigt mycket.

När AI har löst kvantgravitationen (dvs förenat relativitetsteorierna med kvantfältsteorin, eller löst det på något annat sätt), först då ska jag kalla den super-intelligens! Einstein förklarade inte gravitationen vilket många tror. Hans relativitetsteorier har ingen koppling ner på atom-nivå, han beskrev gravitationen med geometrisk matte (han "ritade kartor" över verkligheten om man vill vara lite provokativ). En beskrivning (en princip-teori) är inte en förklaring (en konstruktiv teori) inom fysiken.

Ptolemaios beskrev en gång i tiden med utmärkt matematik hur solen snurrade runt jorden, dvs observationen och matten var synkade. Det räcker inte alltid i fysiken, och där har AI'n något att bita i generellt, att alltid hitta den korrekta kopplingen mellan matte och verkliga fysiska fenomen.

Senast jag testade detta (ChatGPT för någon månad sedan) resonerade AI fel. Jag påstod att Newton-ekvationen v^2 = 2 • a • s (hastigheten i kvadrat = 2 • accelerationen • sträckan) kan skrivas v^2 = (a • s) + (-a • -s) och därmed sägas beskriva Newtons 3:e lag, action, reaction (två accelerationssträckor i motsatt riktning), medveten om att detta är fel (men AI'n köpte det). Det går inte att beskriva Newtons 3:e lag på det sättet, även om det rent matematiskt är korrekt att 2 • a • s = (a • s) + (-a • -s), vilket kan verka beskriva två motsatta fysiska accelerationssträckor.

Generellt skulle jag vilja säga att skillnaden mellan den mänskliga intelligensen, och den nuvarande AI-intelligensen, är att människo-hjärnor kan utföra paradigmskiften, dvs t.ex gå från en Newton-baserad värld till en Einstein-värld inom fysiken. Dvs, den mänskliga hjärnan kan motsäga/utmana sig själv på ett sätt som en AI (matad med det befintliga paradigmet) inte kan. Det kan vara så att att den skillnaden består väldigt länge, förmågan att kombinera fantasi, intuition, kreativitet, experiment och logik, så att ett paradigmskifte uppstår inom t.ex fysik eller kemi.  Förmodligen kommer även en mängd mänsklig stöd- och övervakningspersonal att vara nödvändig som arbetskraft i många situationer, t.ex vid kärnkraftsbyggen eller andra komplexa byggen, om AI-robotar får den uppgiften.

@Jonas jag hade förmånen att träffa dig när jag lite slumpmässigt hamnade på idriz födelsedagsfest när du va i början av din minnesmästar resa, så även om jag inte känner dig är det med visst fog jag kan säga att du tror lite för gott om människor. Att människor fuskar på bekostnad av andra förekommer tyvärr hela tiden. Men rädslan att åka fast och bli dömd av andra i kombination med vår otroligt begränsade kapacitet gör att det oftast inte blir så allvarligt.
Måste nog säga att kontroll och rigorösa riktlinjer som inte kan brytas måste till för alignment innebär ju även alignment med alla brottslingar osv inte bara med ghandi eller dig =)

Mycket intressant att lyssna på Er och hoppas ni återkommer ofta med nya avsnitt i samma tempo som AI utvecklas…!