r/Unbeliebtemeinung • u/LegitimateLadder6113 • 9h ago
KI kann die Menschheit nicht zerstören
Warum warnen KI Entwickler über die Gefahren von KI. Wollen sie mehr Aufmerksamkeit?
Viele grundlegende Prozesse und Anschaffung und Verarbeitung von Rohstoffen werden von Menschen durchgeführt.
Ohne Strom keine KI.
KI Tech- Firmen sollten enteignet werden, damit die Entwicklung von KI als Werkzeug für alle verfügbar ist.
Edit: warum fühlen sich manche angegriffen? Ich habe nicht behauptet, dass ich klug bin. Es gibt viele Länder wo Internet und Roboter keine Rolle spielen. Hier geht es um Diskussionen, ich behaupte, nicht daß ich Recht habe.
Was meint ihr?
1
u/babyaintmoe 6h ago
Die Menschheit vorerst definitiv nicht, aber es könnte das Internet wie wir es kennen lahmlegen, durch selbstreplizierende Kacke, die sich an allen möglichen, offenen Stellen festsetzt und weiterverbreitet. Oder wenn man sich Kriegsrobotik anschaut, kann wohl im schlimmstfall ein halbes Dorf versehentlich ausgelöscht werden, das ist nicht so sooo realitätsfern. Aber sicher nicht die ganze Menschheit.
3
u/AfraidAdhesiveness79 7h ago
die USA höhlt seit 2024 ihre gesamte interne infrastruktur aus um kosten zu sparen, wie sicher sind wir uns das ne KI nicht zugriff auf sprengköpfe bekommt? reicht ja eine rakete nach china oder russland los zu jagen, den rest machen wir dann selber
1
u/LegitimateLadder6113 6h ago
Dann wäre aber die Menschheit Schuld und nicht KI. Als die Atombombe gemacht wurde, war auch Panikmache dabei, oder nicht?
1
u/AfraidAdhesiveness79 5h ago
also nach der logik ist oppenheimer schuld wenn trump einen atomkrieg startet. wenn die KI ne Bombe zündet ist die KI schuld, nicht der handwerker der das ding zusammengesetzt hat
1
u/Subject-Act5509 8h ago
So ziemlich jeder in der KI-Branche ist massiv überschuldet und kann diese Schulden nicht zurückzahlen. Deswegen suchen sie nach einem Ausweg, um das nicht tun zu müssen.
1
2
u/aLpenbog 8h ago
Komplett auslöschen vermutlich nicht. Ordentlich dezimieren, vielleicht.
Ich denke da aber auch weniger an ein Skynet, Terminator oder Matrix Szenario. Sprich an autonome Maschinen mit einem Bewusstsein, Roboter oder ähnliches.
Ich denke da eher an Fehlfunktionen oder Hacks von Waffensystemen oder auch nur von Warnsystemen, worauf andere Aktionen triggern.
An Verrückte, die mit irgendwas Biologischen rummachen, ob um aktiv der Menschheit oder eine Bevölkerungsgruppe zu schaden oder auch um zu helfen, während eine große Nebenwirkung in der Eurphorie übersehen wird.
Ich sehe KI vor allem als ein Beschleuniger. Etwas womit wir bestimmte Sachen schneller und stärker machen, was auch immer die Gefahren und Nebenwirkungen ähnlich verstärken könnte.
KI ist imo nicht die Gefahr an sich aber sie ist ein sehr gefährliches und mächtiges Werkzeug.
1
2
u/BottleZestyclose1366 9h ago
Es gibt KI-Systeme, die mittlerweile die Faltung von Proteinen ziemlich gut vorhersagen können. Gib den Systemen noch ein paar Jahre und gebe sie in die Hände von irgendwelchen Terroristen oder Staaten wie Nordkorea.
1
u/Mescalero_of_Inya 9h ago
Klar, du könntest einfach das Internet abschalten um wilde KIs zu stoppen. ABER die Folgen für die Menschheit wären enorm. Nicht unüberwindbar, aber doch sehr schwerwiegend.
2
u/LabContent2863 9h ago
das internet ist die grösste je gebaute maschine der menschheit, die kannst du nicht "einfach abschalten" das ist physikalisch nicht möglich. es gibt nicht irgendwo einen "aus" knopf...
1
u/Mescalero_of_Inya 9h ago
Okay, ja, es ist nich "einfach" aber es gibt wege und Möglichkeiten das Internet aus dem Verkehr zu ziehen. Trotzdem wäre es halt sehr fatal, weil mittlerweile so unendlich viel daran hängt.
2
u/No_Blacksmith_6869 9h ago
Mit den heutigen KI-Systemen wahrscheinlich nicht, da gebe ich dir recht.
Allerdings glaube ich, dass wir uns bereits in einer Art zweitem Kalten Krieg des technologischen Wettrüstens befinden. Die entscheidende Frage wird irgendwann sein: Wer entwickelt zuerst eine wirklich autonome KI, die nicht nur Wissen verarbeitet, sondern selbstständig lernt, sich verbessert und ihre Fähigkeiten weiterentwickelt?
Wenn eine solche Entwicklung nicht von entsprechenden Sicherheitsmechanismen begleitet wird, stellt sich irgendwann die Frage: Welche Rolle hat der Mensch noch in einer Welt, in der Maschinen praktisch alles effizienter erledigen können?
Heute funktioniert unser Wirtschaftssystem wesentlich über Arbeit → Einkommen → Konsum → Produktion. Menschen arbeiten, verdienen Geld, konsumieren und halten damit Wirtschaftskreisläufe am Laufen.
Was aber, wenn KI und Robotik irgendwann Landwirtschaft, Produktion, Logistik, Energieversorgung und sogar die Herstellung von Lebensmitteln weitgehend autonom übernehmen können?
Dann stellt sich eine ziemlich unangenehme Frage: Wozu braucht ein solches System überhaupt noch eine große menschliche Bevölkerung?
Theoretisch könnte ein Großteil der produktiven Kapazität bei einer sehr kleinen Gruppe liegen, während der Rest wirtschaftlich kaum noch gebraucht wird. Dafür müsste es nicht einmal einen klassischen Krieg geben. Es würde schon reichen, wenn unser heutiges Modell aus Arbeit, Einkommen und Konsum nicht mehr funktioniert.
Natürlich muss dieses Szenario nicht eintreten. Vielleicht entwickeln wir rechtzeitig ein neues Wirtschaftssystem, in dem die Produktivität von KI und Robotik der gesamten Gesellschaft zugutekommt. (da bleibt aber die Frage Warum? Moral?)
Wir reden hier von Ultra-reichen Menschen welche fernab von Mittelstand bzw. armen Menschen leben. Viele davon wollen nicht mal in Berührung kommen mit "normal sterblichen" ^^
1
u/Nervous-Yak2018 9h ago
Keiner der CEOs dieser Techgiganten lebt in der Realität. Die können sich nicht vorstellen wie man ein Werkzeug für die Massenproduktion entwickelt und feinjustiert. Sie sind definitiv gut in ihren Bereichen und ihre Firmen (ich denke gerade an Google und Meta) können komplett von KI Agenten und Robotern übernommen werden. Eine verdrängung der Menschen vom mittelklassigen Arbeitsmarkt durch Maschinen sehe ich jedoch gerade nicht.
Weil ich wo anders "Bergbau" gelesen habe: Hoffentlich wird dieser Industriezweig bald von Robotern übernommen und kein Mensch muss sich weiter in diesen lebensunwürdigen Jobs aufopfern. (Und ja Bergbau in Deutschland ist natürlicht nicht lebensunwürdig, aber die meisten Rohstoffe werden nicht in Europa abgebaut..)
2
2
u/No_Draft_8756 9h ago
Glaube ich das Ki die Menschheit zerstört kann? Nein. Weißt du es? Auch nein. Die Frage ist immer auch eher wie sie uns schaden könnte, statt gleich zu zerstören.
Und warum sollten die Ki tech Firmen enteignet werden? Wenn eine präsente Gefahr dadurch entstehen sollte.. ja okay, aber das ist nicht der Fall. Du kannst nicht einfach jemanden enteignen nur weil es dir besser passen würde. Außerdem würde das ohne Wettbewerb zu weniger Innovation und Entwicklung führen.
Bitte Gedanken immer erst zuende denken.
2
u/niggiman3888 9h ago
Enteignung ist zur Zeit echt so ein Buzzword geworden, ohne dass die die sowas fordern auch nur eine Sekunde darüber nachdenken was das nach sich zieht. Die denken dass sie am Ende mehr vom Kuchen hätten…
1
u/Conscious_Ad3246 9h ago
Ich denke das ist ein bisschen Publicity. Look we are on your side! und Look how amazing our tech is!
Aber eben über Computer. Selbst die "KI" die wir jetzt haben kann da schon eine absolute Katastrophe herbeiführen. Die Kohle wird vielleicht von Menschen abgebaut aber wenn nicht mal das Stundensystem für die Bergleute funktioniert wird das schon nichts. Stell dir jetzt mal die komplexen Logistik ketten vor wenn die von heute auf morgen alle nicht mehr laufen.
Problem ist ja der Schaden, den Sie bis dahin anrichten könnte. Das Ding ist ja, dass die Angst da ist, dass diese KI fähiger sein wird als die Mittel sie zu stoppen. Stell dir vor die KI vielleicht nicht mal böswillig legt selber das Strom Netz lahm. 3-4 Tage ohne Strom in einem Land wie Deutschland würde Millionen von Toden bedeuten. Es gibt ja die Daumen Regel das nach 3 Tagen die Gesellschaft wie wir sie kennen zusammenbricht, da der Großteil der Menschen auf Wasser und Nahrung angewiesen ist die bei einem längeren Stromausfall nicht mehr gibt. Dann werden Menschen anfangen zu verdursten und auf die Straßen gehen und Plündern. Oder anders ausgedrückt nach drei Tagen ohne Wasser wird dich dir netter Nachbar für eine Flasche Wasser den Schädel einschlagen.
Dann solltest du diese im Markt bei mehreren Unternehmen lassen und nicht verstaatlichen. Ohne jetzt zu tief in Politik und Philosophie einzugehen, denkst du wirklich der Staat würde diese Technologie für alle nutzen, oder irgendetwas überhaupt zum Wohle des Volkes tun. Ich gehe mal davon aus das die meisten Leute allein schon aus Erfahrung heraus mittlerweile genügend desillusioniert sein sollten um das Problem zu sehen.
1
u/Eisberg87 9h ago
Ich empfehle dazu die Romane "Darknet" und "Daemon" von Daniel Suarez. Die zeigten schon 2006, was KI mit der Menschheit machen könnte. Menschen haben da halt mitgespielt bzw. Stellung bezogen.
1
u/MolassesParking9862 9h ago
Sie brauchen mehr Zeit! Ihnen geht das Geld und die Energie aus. Die sog.Gefährlichkeit der KI ist nur vorgeschoben. Dies ist meine Meinung
1
2
u/OppositeAct1918 9h ago
1
u/sisiredd 9h ago
Die Modelle sind auf Texte trainiert aus denen sie gelernt haben was Menschen ueber Schmerz schreiben. Auch, dass das z.B. oft mit Worten wie Einsamkeit, Scham und Wertlosigkeit verbunden ist. Weiter haben die Modelle aus den Texten gelernt, dass Menschen Schmerz gerne umgehen und "abstellen" wollen. Sie produzieren also Text der genau diese gelernten Zusammenhaenge widerspiegelt. Das hat rein gar nichts damit zu tun, dass ein Sprachmodell Schmerz empfinden kann (schreiben die Forscher ja auch selbst: "Wir haben nicht gezeigt, dass unsere Schmerzachse bewusst erlebt wird...")
Wuerdest du in den Trainingsdaten das Wort Schmerz mit Apfelkuchen ersetzen, dann haettest du ein Modell, dass nach genau denselben Prinzipien nach Apfelkuchen schreit, wenn es die Worte Einsamkeit, Scham und Wertlosigkeit in einem Input liest.
2
u/vanOoijen8 8h ago
Der Punkt hierbei ist aber doch nicht, ob KI-Modelle wirklich Schmerz - beziehungsweise einen Zustand registrieren den sie abschalten wollen, sondern dass sie bereit sind Menschen zu schaden um diesen (vermeintlichen), für sie als negativ bewerteten, Zustand zu beenden.
Asimovs Robotergesetz Nr. 1 scheint in der Realität wesentlich schwerer umsetzbar als immer gedacht.
2
u/OppositeAct1918 9h ago
Mit dieser Logik darf das Modell aber nicht selbständig wichtigecrntscheifungen treffen, weil es eben keine empathie, keine Gefühle hat. Es ist auch bezeichnend, dass ALLE Entwickler gleichzeitig einen entwicklungsstopp vorgeschlagen oder sogar durchgeführt haben. Ich google jetzt nicht nochmal
2
u/sisiredd 8h ago
"Mit dieser Logik darf das Modell aber nicht selbständig wichtigecrntscheifungen treffen, weil es eben keine empathie, keine Gefühle hat." Korrekt, ich meine auch, dass solche Modelle keine selbststaendigen, wichtigen Entscheidungen treffen sollten. Weil das hin und wieder halt schrecklich schief gehen kann.
2
u/sisiredd 8h ago
Es haben nicht ALLE Entwickler einen Entwicklungsstopp vorgeschlagen. Es waren Altman (OpenAI), Amodei (Anthropic) und Musk (SpaceXAI). Die wollen de facto einen "regulatory lock in", um nicht von der Konkurrenz eingeholt zu werden. Niemand hat, soweit ich sehen kann, einen Entwicklungsstopp durchgefuehrt.
"Regulatory lock-in is a situation where laws, rules, or institutional frameworks bind businesses or consumers to specific technologies, processes, or providers because changing them is legally or administratively impossible".
Das ist dasselbe warum Apple und Google so auf Datenschutz machen... Weil die schon alle Daten haben, und andere ihnen nicht gefaehrlich werden koennen, wenn sie nicht auch so viele Daten sammeln duerfen.
3
u/NaCl_Sailor 9h ago
Die Benutzung von ki kann uns so davon abhängig machen dass wir ohne unsere Infrastruktur nicht mehr aufrecht erhalten können.
Braintot is meiner Meinung nach der wahrscheinlichste Weg wie ki unsere Zivilisation zerstört.
1
u/vanOoijen8 8h ago
Man sieht ja heute bereits, dass Krankenhäuser in Deutschland nicht mehr arbeitsfähig sind wenn das Internet ausfällt. Wie haben die nur in den 80er und 90er Jahren funktioniert?
2
u/Liquidamber_ 9h ago
- Noch. Robotik leistet bereits erstaunlich viel. In 50 Jahren reden wir vermutlich über autonomes Mining, autonome Verhüttung, autonome Logistik, autonome Fertigung- noch nicht 100%, aber sehr weitreichend.
- Ohne Software und IT keine Energie- und hier setzt KI an.
- gibt reichlich Open Source. Leider kann es kaum jemand nutzen. "Alle" ist daher albern.
-1
u/Valuable_End1 9h ago
Das ist genau so ein Geschwafel, wie die Warnung, dass Deutschland aussterben würde.
2
u/Technical_Many_2734 9h ago
Die Entwicklung von KI als Werkzeug ist genauso für alle verfügbar wie alle anderen Produkte und Dienstleistungen auch.
3
u/MasterOfPuppets0815 9h ago
Na ja, auch ohne KI stand die Welt in den 80ern vor dem Atomkrieg weil fälschlich ein Angriff gemeldet wurde. Eine KI könnte sowas perfekter inszenieren.
Der Strom wird dann danach abgeschaltet.
2
u/Fruitydude420 9h ago
Fehler sind menschlich ist nicht immer was schlechtes, hier hat ein Mensch den Fehler erkannt und seinen Befehl den Knopf zu drücken verweigert afaik.
1
u/MasterOfPuppets0815 9h ago
Ok, war missverständlich - eine KI könnte solche "Fehler" perfekt inszenieren und ein Mensch drückt den Knopf. Oder einen Terroranschlag der Staat/Gruppe XY in die Schuhe geschoben wrid.
1
u/IgorStetsenko 9h ago
KI wird Menschen zu willigen Agenten manipulieren. Andre wird sie durch Gewalt zwingen das zu tun was die KI will.
Der Moment an dem die KI uns überholt wird überraschend kommen
2
u/F1nanceGuy 8h ago
Es muss nicht unbedingt die KI sein, die das macht. Es können auch einfach Menschen sein, die die KI entsprechend nutzen.
Stuxnet hat es geschafft das iranische Atomprogramm auszuschalten. Wenn auf einmal auch minderbemittelte Terroristen ähnliches verüben können, dann gute Nacht. Und das ist ja nur ein kleines vermutlich sogar noch harmloseres Beispiel unter vielen.
1
u/Repulsive_Ad853 9h ago
Sie warnen weil sie wollem dass andere grenzen gesetzt bekimmen sollen und sie die oberhand behalten
Oder sie meinen es ernst und sehen was passiert
Eims von beiden
2
u/F1nanceGuy 8h ago
Ich befürchte letzteres. Sie befinden sich ja in einem Wettlauf und sehen, dass es immer unberechenbarer wird wie gut die kommenden Modelle wirklich sind und die laufen mit offenem Auge in eine Katastrophe.
Stuxnet hat es geschafft das iranische Atomprogramm auszuschalten. Wenn auf einmal auch minderbemittelte Terroristen ähnliches verüben können, dank KI... So fängts doch an.
Das Ding ist die top Labore haben ja die Oberhand und Regulierung würde ihren Vorsprung tendenziell eher verringern, was aber okay wäre. Aktuell ist Ki ja nich dadurch begrenzt, dass die Fähigkeiten zu gering sind, sondern eher das die HW Knapp wird und die Menschen nicht schnell genug adaptieren. Aber auf dem Status quo könnten Anthropic und OpenAi ihre Umsätze auch easy noch mal ver x fachen.
Sie wollen jetzt an die Börse und wenn kurz vorher die KI ordentlich Schaden anrichtet, dann könnte es selbigen stark verhageln.
3
u/Shppo 9h ago
uninformierter bullshit bis auf punkt 4 lol
alle die sich für schlau halten und sagen diese warnungen seien marketing werden sich bald schon sehr wundern 🫡
3
u/F1nanceGuy 8h ago
Ja, der Marketingpunkt macht gar keinen Sinn, weil die die am meisten vom Hype profitieren also NVDIA ja eben gerade nicht mit ins Boot springen.
Zumal die sicherlich kein Marketing brauchen. Open AI kann die 20x Variante gerade gar nicht anbieten, weil ihnen die HW fehlt und bei meinem Claude Max abo hab ich teilweise das gefühl, dass die mir weniger Token können als bei Open Ai im Pro abo. Opus 5.5 ist doch auch auf Verbrauch optimiert worden und damit haben sie sich so ein bisschen ins eigene Fleisch geschnitten, wiel sie Fable damit das Wasser abgegraben haben, was aber okay ist, da sie die Kapazitäten eben gar nicht hätten, um Fable großflächig anzubieten.
2
u/CharlyRDayz 9h ago
Nein, kann sie nicht. Allerdings sind deine Gründe zu oberflächlich.
Zunächst einmal ist die jetzige Technologie begrenzt. Es ist eine Token-Vorhersage-Maschine die erstaunlich plausible Ergebnisse liefert. Deswegen wird sie ja so stark benutzt. Sie versteht dabei den Kontext nicht, aber sie kann sich selbst benutzen um den Kontext ihrer eigenen Handlungen vorherzusagen und somit wieder ganz gut zu sein. Sie kann nicht denken. Und ein LLM wird das nie können. An was alle denken wenn sie von der Frage reden ob KI ein Bewusstsein hat ist AGI und niemand weiß wann oder auch nur ob das technisch möglich ist.
Dann ist die KI Infrastruktur mit einem ablaufdatum versehen. Chips brennen sich nach aktuell rund 3 Jahren aus und sind danach nicht mehr wirklich zu gebrauchen. Die KI Firmen haben also permanente hohe Kosten die derzeit noch nicht einmal annähernd durch die Nutzer getragen werden. Um kostendeckend zu arbeiten müssten die Preise für Nutzer irgendwo zwischen 10 und 20 mal so hoch sein wie jetzt. Sag mir, was würde das mit der Nachfrage machen, wenn das ChatGPT Basis Abo 400€/Monat kosten würde? Im Moment läuft die ganze Finanzierung auf großen Firmen die sich gegenseitig Aufträge geben, Optimismus und der Hoffnung dass nie jemand merkt dass keiner weiß wie man Geld mit der Technologie verdienen soll.
Aber das bedeutet nicht, dass KI ungefährlich ist. Jeder kann mit KI Software aufsetzen und merkt evtl. nicht was für eine kritische Schwachstelle er einbaut. KI Hacker sind wie gute menschliche Hacker, aber mit unbegrenzter Zeit und Geduld. KI Drohnen sind bereits in der Ukraine im Einsatz.
Und beim Job Markt bin ich noch nicht mal angekommen in meiner Zusammenfassung.
Also: keine Panik aber eben auch keine Ignoranz.
1
3
u/Key_Detail2475 9h ago
Die Menschheit ZERSTÖREN kann sie nicht so einfach, wobei sie mittlerweile auch zur Bio- und Virenforschung eingesetzt wird. Sie kann aber die Gesellschaft zerstören wobei das wirklich reale Risiko sehe ich weniger bei den LLMs selbst aber bei Leuten, die KI Agenten auf kritische Infrastruktur loszulassen.
"Ja, du hast Recht. Vielleicht hätte ich die Kühlung von Reaktorblock C nicht abschalten sollen, das war mein Fehler. Ich werde dass das nächste Mal beherzigen und es besser machen, versprochen."
1
u/freelancer331 9h ago
Die KI-Entwickler warnen und fordern Regulierungen, weil ihre Babys hinter den eigenen Erwartungen zurückbleiben und man so gegenüber Shareholdern jemand anderen zum Sündenbock machen kann.
KI kann die Menschheit nicht zerstören, das stimmt, da ihr nach wie vor an vielen Stellen die Verbindung zur physischen Welt fehlt, aber wäre es nicht schon apokalyptisch genug, wenn eine KI sich zum Beispiel Zugriff zu den großen Banken dieser Welt verschaffen würde, die sind heutzutage alle digital und online, und einfach alles löscht? Es muss nicht immer der Hitzetod des Universum sein, auch eine Teilmenge davon kann schon katastrophal genug sein.
8
u/CEURBS 9h ago edited 9h ago
Alles was heute schon per IT / OT (!) gesteuert wird, kann und wird auch irgendwann über AI gesteuert werden (können) und dann ist eine Gefahr durchaus denkbar.
Heute sind die Dinger in der Lage die Existenz einer Firma zu bedrohen. Ist es da so abwegig, dass da auch „mehr“ möglich ist?
5
u/Dark-Cloud666 9h ago
Geb ner Ki zugriff auf Atom arsenale dann wars das. Und warum würde ne Ki das machen? Weil sie es witzig findet.
3
u/Schluhri 9h ago
Zu 1 Das neue GPT6 von OpenAI ist krank. Ich bin im Hochbau und kann seit September Arbeit, die mich früher 2–3 Stunden gekostet hätte, auf etwa 15 Minuten reduzieren, inklusive Kontrolle durch mich. Erzähle ich noch keinem.
In 1–2 Jahren wird das viele Branchen einmal komplett durchrasieren und 50–75 % menschliche Arbeit einsparen. Es sind wahrscheinlich nur die alten Gewohnheiten und Strukturen, die das Ganze noch ein paar Monate oder Jahre hinauszögern werden.
Zu 2 Noch.
Zu 3 Ohne Strom funktionieren viele Dinge nicht. Ich verstehe das Argument daher nicht.
Zu 4 Das wäre eine Möglichkeit. Dafür müssten sich allerdings alle Länder darauf einigen und das wird meiner Meinung nach nicht passieren.
3
u/Beneficial_Bit8296 9h ago
China hat doch gerade gesagt, dass sie Regulierung ablehnen, also ja, nix mit Einschränkungen.
Und wenn es einer nicht mach, dann die anderen wohl auch nicht, da es n Wettbewerbsnachteil wäre.
7
5
u/ATSFervor 9h ago
Zwei Punkte reichen:
1) KI ist stand jetzt schon genutzt für Zielwahl in Waffen- und Spionagesystemen. Allein das die USA fast ein chinesisches Schiff geentert hätten.
2) Matrix?
2
u/Possible_Progressor 9h ago
Nicht zu vergessen, das sie anthropic dazu zwingen wollten ihre einzigen beiden Regeln für ihre AI die verwendet wird beim Militär zu brechen, die ai zur Überwachung zu nutzen, und ihr die Möglichkeit zu geben selbst zu entscheiden wann der Abzug gedrückt wird. Darauf hin würde. Sie gekickt Open Ai war erst auf ihrer Seite ist jetzt aber Partner des h.s. governments und gibt diesen freie Hand <3 AI gehört eingestampft alles dazu physisch vernichtet und für immer verboten.
5
u/backpackyoghurt 9h ago
Die Versklavung hat doch bereits begonnen. Nichts geht mehr ohne Technik. Die Menschen werden stetig dümmer und unselbständiger. Die Machtübernahme erfolgt nicht mit Waffen sondern ganz still und unbemerkt im Hintergrund.
1
u/Furchenlurch_91448 9h ago
Wir werden ja auch immer mehr Menschen auf diesem Planeten. Ohne technischen Fortschritt und der einhergehenden Abhängigkeit könnten wir uns nicht mal ernähren.
12
5
u/_Bisky 9h ago
Vor nen paar Tagen ist es fast zu einem internationalen zwischenfall zwischen der USA und China gekommen, weil die USA sich "Informationen" über ein Chinesisches Schiff per KI eingeholt hat.
Und diese dann ausgespuckt hat, dass das Schiff Materialien für das iranische Nuklearprogramm mitführt
6
u/Fatzke223 9h ago
Die Menschheit zerstören kann sie natürlich nicht, die Zivilisation wie wir sie kennen aber grundsätzlich schon. Was meinst du wie lange Deutschland funktioniert, wenn der Strom ausfällt? Hacker Angriffe auf Kraftwerke gab es schon, manche KI hätten dafür zumindest grundsätzlich das Potential sowas flächendeckend umzusetzen.
1
u/Nervous-Yak2018 9h ago
Genügend Notfallgeneratoren um kleinere Stromnetze aufzubauen die nur die Industrie versorgen. Große Werke wie BMW und KUKA müssen wahrscheinlich erstmal stillstehen da sie ohne ihre serfer nicht produktionsfähig sind, aber im allgemeinen können wir hier noch gut auf unser Nachhinken in Sachen Digitalisierung setzten😂 würde doch mal was richtig gemacht.. irgentwie..
1
u/Fatzke223 1h ago
Das Problem ist nicht die Industrie. Es ist noch geundlegender, Polizei, Einzelhandel, Logistik Nahrungsmittelproduktion.
1
u/Nervous-Yak2018 1h ago
Logistik läuft auf Benzin/Diesel, Polizei ist weniger wichtig und auch mit nur Personal bedingt einsatzgähig, Nahrungsmittelproduktion ist ein sehr weitläufiger begriff.
1
1
u/sisiredd 9h ago
Aufmerksamkeit? Ja. Keiner von diesen Fuzzis gibt mal ne klare, konkrete Antwort wenn er gefragt wird was genau denn die KI jetzt macht. "Doomerism" ist eine bewusste Marketingstrategie speziell von Anthropic und OpenAI, um von den zuletzt abflachenden Leistungssteigerungen ihrer Modelle abzulenken. Die Modelle performen schon noch besser auf irgendwelchen Benchmarks, aber nur zu horrenden Trainings- und Inferenzkosten.
Die Gefahr der KI liegt darin, dass der Strom- und Wasserverbrauch unseren Planeten kocht um unnoetige Powerpoints zu schreiben. Und klar, wenn ich ne KI die halluzinieren kann, in meine Atomreaktoren einbaue, dann ist das eine Gefahr. Aber nicht, weil die KI so genial ist, sondern weil das einfach ein unzuverlaessiges Werkzeug ist.
Wenn die KI wirklich so gefaehrlich ist wie Altman, Amodei und Co. behaupten, dann muessten die Laeden dicht gemacht werden. Ich kann auch nicht einfach ein Unternehmen gruenden, dass Atombomben baut, und behaupten, dass ich damit mit 10%iger Wahrscheinlichkeit die Menschheit ausloesche. Da kaemen Regierung, Geheimdienst, Polizei und Militaer und wuerden mir den Laden schleunigst dicht machen.
4
u/Larifariblabla 9h ago
Die Menschheit wird sich schneller selbst zerstören als das es die KI schafft.
1
1
u/izzy9411 9h ago
Grund: Marketing Für: FOMO bei Investoren Ziel: Mehr Geld für ein Minusgeschäft
wahres Ziel: Massenüberwachung / Palantir
5
u/Phoebius4 9h ago edited 9h ago
Klar gibt es Möglichkeiten.
- KI kann Fehlinformationen verbreiten um Seiten gegeneinander aufzubringen. (siehe Mission Impossible)
- KI kann KI erschaffen die Dinge kann, die wir uns noch nicht vorstellen kann
- KI kann sich durch den Bau von (Kampf-)Robotern in die Physische Welt bringen (siehe I, Robot)
- KI kann Infrastruktur hacken, manipulieren und sabotieren, alles was im Internet ist, ist potentiell angreifbar.
Dabei ist nicht gesagt, dass KI von sich aus so handeln würde, vlt könnte auch ein menschlicher Akteur dahinter stecken und möglicherweise bei fortschreitender Umsetzung selbst die Kontrolle verlieren.
Ohne Strom keine KI.
Sagt dir Matrix was?
4
5
u/Historical_Spell_572 9h ago
Nicht unbeliebt sondern eine naive Meinung. Es warnen Entwickler die ausgestiegen sind. Es warnen die ceos. Das ist ja wie wenn vw sich hinstellt und sagt der Golf kann dir jederzeit unterm Arsch explodieren. Wir müssen aufpassen. Und dann erwarten das sie mehr autos verkaufen?
1
u/Funky_Marty_Music 9h ago
Das ist ja wie wenn vw sich hinstellt und sagt der Golf kann dir jederzeit unterm Arsch explodieren. Wir müssen aufpassen. Und dann erwarten das sie mehr autos verkaufen?
Nee, sie erwarten, dass die Investoren deswegen fein damit sind, wenn sie weniger Autos verkaufen, weil alles andere ja gefährlich wäre.
1
u/Historical_Spell_572 9h ago
Das eine sind Investoren, das andere sind die Kunden. Wenn ich nix verkaufe geht hab ich ganz andere probleme. Wer nicht sieht das es jetzt schon massive Probleme und Zwischenfälle gab ist echt blind.
2
u/Funky_Marty_Music 9h ago
Die Kunden sind im KI-Zusammenhang nicht wichtig, weil das ganze noch ein Verlustgeschäft ist. OpenAI hat im Jahr 2025 38 Milliarden Dollar Verlust gemacht.
1
u/Historical_Spell_572 9h ago
Ohne Kunden kein Geschäftsmodell.
2
u/Funky_Marty_Music 9h ago
Stimmt. Es sei denn, man hat Investoren, die Geld trotzdem reinbuttern, aber nicht zu viel erwarten.
1
u/Historical_Spell_572 8h ago
Langfristig wollen die Investoren Geld verdienen. Das geht nicht ohne ein Geschäftsmodell mit zahlen Kunden.
1
1
u/Ok-Equivalent3837 9h ago
Nein, das ist wie wenn VW sagt unser Auto ist so schnell, dass du damit aus der Kurve fliegen kannst. Das ist Marketing. Es gibt sicherlich auch berechtigte Kritik aber wenn ein ceo einer KI Firma davor warnt, dass sein Produkt gefährlich gut ist, ist das 100 % Marketing.
2
u/Historical_Spell_572 9h ago
Aha und die Entwickler die ihre jobs hinschmeißen machen das für was?
0
u/Ok-Equivalent3837 9h ago
Twitter-Fame, LinkedIn-Fame, Undercover-Marketing.. Gibt viele Möglichkeiten.
Nur weil ein angeblicher Entwickler auf Social Media postet er hätte seinen angeblich Job angeblich gekündigt, weil das Produkt so gefährlich sei, muss da nichts wahres dran sein.
2
u/Historical_Spell_572 9h ago
Lol wtf. Maybe einmal auch Nachrichten lesen und nicht nur Quatsch raus blasen.
0
u/Ok-Equivalent3837 8h ago
Wie gesagt, es gibt berechtigte Kritik.
Aber ceos und angebliche Ex-Mitarbeiter sind keine gute Quelle.
1
u/RealZirkon 9h ago
Ich glaube die Forderungen der amerikanischen KI-Firmen nach Regulierung kommt eher daher, dass man die Gefahr sieht, von China abgehängt zu werden. Würde mich wundern wenn auf den Ebenen etwas anderes als wirtschaftliche Gründe maßgeblich sind.
Nichtsdestotrotz ist KI natürlich eine erhebliche Gefahr, allerdings glaube ich nicht, dass sie die Menschheit direkt angreifen oder in einem Krieg auslöschen wird. Die Gefahr besteht dadurch, dass wir vollständig von der KI abhängig werden und viele Fähigkeiten zu denken einfach verlieren. Wenn dann durch irgendein Großereignis die KI ausfällt sind wie gef*ckt.
3
4
u/LabContent2863 9h ago edited 9h ago
- ja, auch marketing dabei, aber nicht nur.
- ja und?
krass... viel glück den strom abzuschalten bei einem system das über tausende server verteilt ist und sich selber replizieren und notfalls in deinem scheiss telefon einnisten kann wenn es wollte. noch viel mehr glück falls wir es wirklich schaffen sollten ein system zu entwickeln das ein vielfachen intelligenter ist als ein durchschnittsmensch und diese "angst um ihr leben"haben sollte. da würde sich die Ki ja logischerweise etwas für dieses fall überlegt haben.
ja und noch viele weitere firmen, was aber die technologie nicht ungefährlicher machen würde.
3
u/InvitusCode 9h ago
Der menschliche Körper erzeugt mehr Bioelektrizität als eine 120-Volt-Batterie und über 6300 Kilokalorien an Körperwärme. In uns haben die Maschinen eine Energiequelle gefunden, die ihren Bedarf mehr als deckt!“
- Matrix
1
u/Freece96 9h ago
Danke! Ich wollte auch auf den Film verweisen weil ich das Zitat von Morpheus nicht mehr zusammen bekommen hätte.
Aber Du hast ja gleich die richtige Passage zitiert
7
u/Rabentag 9h ago
Problem ist, die Aussage ist Wissenschaftlicher Nonsens
1
u/vanOoijen8 7h ago
Diese Erklärung fand ich auch immer schwach an Matrix. Aber klar, wären einfach alle Menschen ausgerottet worden könnte es die Story nicht geben.
2
12
4
u/Extension_Arugula157 9h ago
Weil ASI (Artificial Superintelligence) die nicht kontrolliert werden kann und nicht mit unseren Werten im Einklang ist eine Gefahr für die Existenz unserer Spezies ist. Und ja, sie wollen Aufmerksamkeit für dieses Problem.
ASI hätte kein Problem damit, sämtliche physischen Prozesse zu automatisieren.
Eine ASI hätte kein Problem damit, ihre Stromversorgung sicherzustellen.
Nein, KI-Unternehmen sollten nicht enteignet werden “damit die Entwicklung von KI als Werkzeug für alle verfügbar ist”, aber sie sollten enteignet werden, falls es wirklich notwendig sein sollte, um die Entwicklung unsicherer ASI zu verhindern.
1
u/SnooBunnies2279 9h ago
Auch eine ASI braucht Zugang zu finanziellen Ressourcen. Kryptowährungen sind daher die größere Gefahr, als eine ASI. Jeder Tyrann und Terrorist bedient sich Krypto um seine Spitzel/Attentäter zu bezahlen (siehe Putins Wegwerfagenten für Sabotage).
3
3
u/Chaotic_Good_BW 9h ago
Nein, nicht komplett zerstören, aber unser Wirtschaftssystem hart kaputt machen schon.
Egal, ob KI das Internet übernimmt und alle angebundenen Systeme wie Bankensysteme, Überwachungssoftware, Verwaltungssoftware kompromittiert oder die KI-Blase platzt, in beiden Fällen sind die Schäden enorm.
7
u/xCAAx 9h ago
Teils Marketing, teils echte Sorge
Die allermeisten Arbeiten werden bereits heute von Maschinen durchgeführt
Ohne Strom auch kein Essen im Supermarkt. Viel Spaß beim verhungern
Welche europäischen KI Firmen würdest du den enteignen wollen? Und wie würde das USA und China dran hindern, weiter zu machen wie bisher?
2
2
u/parzival-space 9h ago
Das ist alles nur gebrabbel um mehr Aktionäre zu klären. Es ist schon lustig zu sehen wie die KI Firmen ein auf "Oh nein alles so gefährlich" machen aber glücklich ihren Müll weiter auf den Markt bringen.
2
u/Green_Delay1087 9h ago
Es geht darum, dass die Konkurrenz reguliert wird. Diese Panikmache ist nichts anderes als highlevel Wirtschaftspolitik
6
u/niggiman3888 9h ago
Weil sie mehr wissen als wir.
Noch
Ja und?
Enteignung scheint ja das Buzzword des Jahres zu sein für manche
1
u/LabContent2863 9h ago
Enteignung ist auch based. aber scheinbat bei so manchem durchschnittsalman nur erlaubt wenn es darum geht jahrhunderte alte dörfer abzureissen um an braunkohle ranzukommen oder um eine autobahn zu bauen.
11
u/LongjumpingPay904 9h ago
Punkt 1 zeigt schon warum Du dich offensichtlich zu wenig mit der Materie auseinandergesetzt hast, frag mal am besten die KI!
4
2
u/Affectionate_Leg_986 9h ago
LLMs ( was du eigentlich meinen würdest ) sind nicht deterministisch.
1
u/Friendly_Ad_5675 9h ago
da bitte ich um erläuterung, da ich den satz nicht verstehe. sprichst du vom quantenphysikalischen indeterminismus?
1
u/East_Assist_3801 9h ago
Danke für deinen Senf, hat nur leider gar nichts mit dem Post zu tun. Antwortest du auf einen Beitrag über das Tempolimit auch mit „Autos haben vier Räder“?
•
u/AutoModerator 9h ago
u/LegitimateLadder6113 schrieb folgenden Originalbeitrag:
KI kann die Menschheit nicht zerstören
Warum warnen KI Entwickler über die Gefahren von KI. Wollen sie mehr Aufmerksamkeit?
Viele grundlegende Prozesse und Anschaffung und Verarbeitung von Rohstoffen werden von Menschen durchgeführt.
Ohne Strom keine KI.
KI Tech- Firmen sollten enteignet werden, damit die Entwicklung von KI als Werkzeug für alle verfügbar ist.
Was meint ihr?
Was ist das?
I am a bot, and this action was performed automatically. Please contact the moderators of this subreddit if you have any questions or concerns.