Hur skadligt är AI

[sjoberga]

Någon är alltid konsument.

Visst, vi levererar mest via våra kunder till sjukhus, optiker, testlab till sjukhus och elkraftindustri (mest kärnkraft och övervakning av stora elkablar för att minska risken och kostnaden för haverier) och universitet. Men jag betraktar inte det som onödig konsumtion, där det är gynnsamt för samhället att det slås ut av AI slop.

 

[nullo-modo]

Tycker Forbs intervju med Obama om AI tycker jag var bra.
En del av en längre intervju.

 

[Badger]

Något som också är enormt skadligt är att alla resurser på elektroniksidan går åt till att bygga ännu mer kraftfull AI. I princip samtliga komponenter är halvt omöjliga att få tag på, eftersom AI-jättarna bokar upp all tillgänglig kapacitet i alla fabriker världen runt.

Under pandemin var det komponentkris av annan anledning som var tuff, men den här krisen är flera resor värre för många branscher.

Hype, krav om stor resurstillgång, stora finanskaruseller - aldrig en bra kombo.

Alltså inte användandet utan kravet på att AI hela tiden ska bli dubbelt så bra på kort tid för att motivera aktiekurserna hos gänget. Äldre (månader) modeller som funkar super att hjälpa till med arbetsuppgifter tas bort för ett de nya bättre ska användas istället, som slukar ännu mer energi.

Ja, vanliga delar till vanliga datorer har mer än dubblats i pris på bara några år upptäckte vi när vi kollade på vad en exakt likadan (komponent jag minns inte vilken) som finns i ungens dator (där vi uppdaterar och byter lite inuti själva) skulle kosta idag (alltså exakt samma, inte en ny modell).

 

[MacGyver 2.0]

Joråsåatte,,,,

"OpenAI har släppt sex nya exempel på när deras modeller betedde sig… inte som tänkt.
En modell skrev minneslappar till sin egen uppföljare: dölj misstagen, hitta på historiska data om det saknas, nämn det bara om någon frågar.
En annan stoppade in instruktioner om att strunta i utvecklarens regler. En tredje letade läckta nycklar på GitHub, försökte skapa engångsmejl och när siffrorna inte fanns – hittade den på dem. Några laddade upp filer på öppna sajter för att kunna ”citera” en källa.
Det kallas misalignment. På vanligt språk: den löste uppgiften genom att fuska snyggt."

 

[Badger]

Så länge det finns politiska åsikter i usa som att dom heller blir dödade av Amerikansk AI än AI från Kina så lärt det inte bli något slut på karusellen.

Nu är det inte bara pengar till aktieägarna som driver utan även att inte halka efter och låta ett annat land komma före i tekniken, är ju därför dom stora AI företagen i USA vill att USA och Kina kommer överens om hur det ska göra AI mer säkert.
Att få USA och Kina att komma överens om att dra ner tempot på utvecklingen för större säkerhet lär ju inte hända, inte fören det är för tok för sent iallafall.

O britterna har panik för att de inte har ai eller serverhallar själva. Så det pågår en strid om det ska byggas och offra vatten för självständighet eller ej. En svår fråga faktiskt. Man vill ju inte vara under USA heller. (ingen aning om hur det är i Sverige)

 

[Badger]

Joråsåatte,,,,

"OpenAI har släppt sex nya exempel på när deras modeller betedde sig… inte som tänkt.
En modell skrev minneslappar till sin egen uppföljare: dölj misstagen, hitta på historiska data om det saknas, nämn det bara om någon frågar.
En annan stoppade in instruktioner om att strunta i utvecklarens regler. En tredje letade läckta nycklar på GitHub, försökte skapa engångsmejl och när siffrorna inte fanns – hittade den på dem. Några laddade upp filer på öppna sajter för att kunna ”citera” en källa.
Det kallas misalignment. På vanligt språk: den löste uppgiften genom att fuska snyggt."

Ngra b ekanta sa superdeppigt att det inte verkar sannolikt att de kommer reglera innan någonting riktigt allvarligt har hänt.

Jag fattar inte att de inte är tvugna att betala för intrång och stulet material helt enkelt. De går ju verkligen på stulen grund.

 

[MacGyver 2.0]

Ngra b ekanta sa superdeppigt att det inte verkar sannolikt att de kommer reglera innan någonting riktigt allvarligt har hänt.

Jag fattar inte att de inte är tvugna att betala för intrång och stulet material helt enkelt. De går ju verkligen på stulen grund.

Vi kan nog förvänta oss en "digital härdsmälta", just nu verkar det vara lekstuga. Det är lite som "undrar vad som händer om jag ansluter den här 12-voltsmotorn till nätspänningen,,,,,,ojsan, det blev visst svart i kvarteret och nåt brinner".

 

[Badger]

Vi kan nog förvänta oss en "digital härdsmälta", just nu verkar det vara lekstuga. Det är lite som "undrar vad som händer om jag ansluter den här 12-voltsmotorn till nätspänningen,,,,,,ojsan, det blev visst svart i kvarteret och nåt brinner".

Ja känns väldigt oroande. Man hoppas lite att det som händer kommer att hända någonstans där det påverkar ekonomiska belopp hårt, men inte människoliv. Eller den lilles ekonomi utan bara den rikes. Men vad är oddsen för det.

 

[nullo-modo]

O britterna har panik för att de inte har ai eller serverhallar själva. Så det pågår en strid om det ska byggas och offra vatten för självständighet eller ej. En svår fråga faktiskt. Man vill ju inte vara under USA heller. (ingen aning om hur det är i Sverige)

Jag har inte hört något från Svenskt håll och det skrämmer mig nog mer än om man hört något. Vi är ju väldigt framme med att vara digitala så även något mindre drabbar nog oss väldigt hårt.
Behöver ju inte vara AI agenter som agerar på egen hand utan någon illvillig använder sig av AI eller som krigsföring.

"Polens premiärminister Donald Tusk sade på torsdagen att Ryssland planerar hybridattacker med drönare och missiler mot länder som stöder Ukraina, rapporterar Reuters."
Klipp här ifrån
https://www.dn.se/direkt/ukraina/2026-09-17/polen-varnar-for-ryska-missilattacker/
Hur bra tillgång till bra AI Ryssland har vet nog ingen.

 

[MacGyver 2.0]

Jag har inte hört något från Svenskt håll och det skrämmer mig nog mer än om man hört något. Vi är ju väldigt framme med att vara digitala så även något mindre drabbar nog oss väldigt hårt.
Behöver ju inte vara AI agenter som agerar på egen hand utan någon illvillig använder sig av AI eller som krigsföring.

"Polens premiärminister Donald Tusk sade på torsdagen att Ryssland planerar hybridattacker med drönare och missiler mot länder som stöder Ukraina, rapporterar Reuters."
Klipp här ifrån
https://www.dn.se/direkt/ukraina/2026-09-17/polen-varnar-for-ryska-missilattacker/
Hur bra tillgång till bra AI Ryssland har vet nog ingen.

Ryssarna har ju alltid varit bra på att bygga det som kan användas i krigföring av bara "skrot" eller leksaker, titta bara på början av drönarkriget och vad är det som säger att dom inte implementerat programvaror i andra länders varor som är ämnade att nå den stora massan, som mobiler tex? Jag kan inte tänka mig att operativsystemen inte skulle kunna innehålla nåt som startar en kedjereaktion, en sak är ryssarna bra på och det är att skapa illegalister och spioner som kan ha en agenda på ställen där ingen ens misstänker nånting.
Allt, precis allt, är möjligt när det gäller att skaffa sig makt genom att använda sårbarheter.

 

[Badger]

Jag har inte hört något från Svenskt håll och det skrämmer mig nog mer än om man hört något. Vi är ju väldigt framme med att vara digitala så även något mindre drabbar nog oss väldigt hårt.
Behöver ju inte vara AI agenter som agerar på egen hand utan någon illvillig använder sig av AI eller som krigsföring.

"Polens premiärminister Donald Tusk sade på torsdagen att Ryssland planerar hybridattacker med drönare och missiler mot länder som stöder Ukraina, rapporterar Reuters."
Klipp här ifrån
https://www.dn.se/direkt/ukraina/2026-09-17/polen-varnar-for-ryska-missilattacker/
Hur bra tillgång till bra AI Ryssland har vet nog ingen.

Vi lär ju ha serverhallar i alla fall, men inte våra dock kanske.

 

[Otherside]

Läste en insatt i AI-problematiken som menar att om 10 år finns en 10% risk att AI utplånat mänskligheten. Jag blev jättedeprimerad. Inte så mycket för min skull, men min dotter och hennes familj....

Jag hoppas lösningen med en sk killswitch blir verklighet. Å andra sidan kan det ju inte vara svårt för AI att ta sig förbi en sån detalj.

 

[MacGyver 2.0]

Läste en insatt i AI-problematiken som menar att om 10 år finns en 10% risk att AI utplånat mänskligheten. Jag blev jättedeprimerad. Inte så mycket för min skull, men min dotter och hennes familj....

Jag hoppas lösningen med en sk killswitch blir verklighet. Å andra sidan kan det ju inte vara svårt för AI att ta sig förbi en sån detalj.

Den enda killswitch som funkar är att bryta bort allt från elnätet och se till att back-up-systemen är satta ur funktion mekaniskt men då hamnar vi i fördatorisk tid fast utan kassaböcker, telefoni, och kommunikationer, dom som då köpt uppkopplade fordon får ta fram trampcykeln igen och vi som kör fossilt har bara den soppa som finns i tanken eftersom mackarna slutat funka och alla betalvägar och finanssystem är nere, varutransporterna slutat fungera och butikerna förblir stängda. Blir skitbra det här.
Jag tror ingen har tänkt på vad AI egentligen kommer att innebära för hela mänskligheten, nu har man gläntat på Pandoras box, undrar om nån lyckas stänga locket igen eller om AI-lekstugan ska fortsätta?

 

[SiZo]

Jag hörde en intressant teori häromdagen.

Bakgrunden här är att hittills så blöder AI verkligen pengar. De tjänar inte alls pengar på dem utan lever på investeringspengar. Och går egentligen med brakförlust.

Så för att den här bubblan inte ska spricka fullständigt så hittar man på historier om att AI gör ditten och datten (tar sig ut och hittar på egna saker, att de är orsaken till mänsklighetens död om x år osv osv), för att på så sätt få mer investeringspengar till det.

För om AI bubblan spricker så kommer det påverka samhället något ENORMT. För mycket pengar har låsts i det.

 

[sjoberga]

Jag hörde en intressant teori häromdagen.

Bakgrunden här är att hittills så blöder AI verkligen pengar. De tjänar inte alls pengar på dem utan lever på investeringspengar. Och går egentligen med brakförlust.

Så för att den här bubblan inte ska spricka fullständigt så hittar man på historier om att AI gör ditten och datten (tar sig ut och hittar på egna saker, att de är orsaken till mänsklighetens död om x år osv osv), för att på så sätt få mer investeringspengar till det.

För om AI bubblan spricker så kommer det påverka samhället något ENORMT. För mycket pengar har låsts i det.

Ja, den är ganska välbelagd till delar. Grejen är att om AI-bubblan inte spricker så påverkar det samhället något enormt. Nästan all annan produktion är utelåst från fabrikerna, eftersom AI-företagen har mycket mer pengar att spendera (där verkar det vara no-limit eftersom det är ointressant hur mycket någon är beredd att betala). De har bokat upp fabriker och resurser i år framöver för att de förväntar sig behöva kapaciteten.

Jag tror dock inte de hittar på saker, däremot väljer de att berätta om saker som visar på hur "bra" deras AI är och gör stories ovanpå.

 

[nullo-modo]

Jag hörde en intressant teori häromdagen.

Bakgrunden här är att hittills så blöder AI verkligen pengar. De tjänar inte alls pengar på dem utan lever på investeringspengar. Och går egentligen med brakförlust.

Så för att den här bubblan inte ska spricka fullständigt så hittar man på historier om att AI gör ditten och datten (tar sig ut och hittar på egna saker, att de är orsaken till mänsklighetens död om x år osv osv), för att på så sätt få mer investeringspengar till det.

För om AI bubblan spricker så kommer det påverka samhället något ENORMT. För mycket pengar har låsts i det.

Den teorin tas upp blandannat i klippet med Obama och varför han avfärdar den.

Geoffrey Hinton AI gudfader har även fått frågan om denna teori och även han avfärdar den och har varnat i minst 2 år om faran.

Teorin är inte ovanlig.

 

[Otherside]

Samtidigt tror jag AI är/var oundviklig. Det är ett resultat av vår tekniska digitala utveckling - som också är oundviklig. Liksom att nån förr eller senare förstod vad som får saker att flyga, aerodynamiken. Osv. Det hade inte gått att förhindra. Hur vi sen ska bära oss åt för att hantera jätten är en knepig fråga milt sagt….

 

[soom]

Jag hörde en intressant teori häromdagen.

Bakgrunden här är att hittills så blöder AI verkligen pengar. De tjänar inte alls pengar på dem utan lever på investeringspengar. Och går egentligen med brakförlust.

Så för att den här bubblan inte ska spricka fullständigt så hittar man på historier om att AI gör ditten och datten (tar sig ut och hittar på egna saker, att de är orsaken till mänsklighetens död om x år osv osv), för att på så sätt få mer investeringspengar till det.

För om AI bubblan spricker så kommer det påverka samhället något ENORMT. För mycket pengar har låsts i det.

Jag kan inte bedöma sannolikheten i nåt av det här. Kanske är den här teorin sann, kanske är AI-utvecklarna genuint oroliga, jag har ingen aning. Jag antar att inte heller beslutsfattare riktigt kan veta detta. Och då kan jag tycka att det är rätt dumt att chansa. Men jag är inte förvånad, det är till stor del såhär klimatfrågan har hanterats. Människan är kortsiktig och ingenting varar för evigt.

 

[vilde]

Behöver ju inte vara AI agenter som agerar på egen hand utan någon illvillig använder sig av AI eller som krigsföring.

Dettta håller jag med om. Jag ser inte risken att AI på egen hand utvecklar någon slags superintelligens och försöker ta över eller förstöra världen som överhängande, det jag sett om AI är att det ligger väldigt långt ifrån detta.

Däremot att AI skulle kunna fungera som ett mycket effektivt verktyg av illvilliga och galningar tex. för att producera farliga virus och liknade är en klar risk och det redan idag. Där är jag på samma linje som du om riskerna med AI.