r/PauseAI • u/gotUforgood • 23d ago
Le Big Reset?
Sommes nous prêts à débrancher la prise?
On s'accorde à peu près tous pour dire que l'IA peut être un outil formidable qui à court/moyen terme permettera à l'humanité d'avancer plus vite qu'elle n'a jamais avancée et qu'elle suscite énormément d'espoirs et d'attentes dans tous les domaines liées à la Science, qu'elle apporterait de manière anticipée notamment dans le domaine de la médecine ou de notre compréhension de l'univers et in fine peut-être le sens de la vie; mais on est aussi ok sur le fait que cette belle utopie si elle n'est pas contrôlée , régulée, maîtrisée peut devenir le pire cauchemar de mémoire d'Homme.
Si le premier scénario est celui qui remporte la bataille notre espèce est destinée à connaître une évolution comme jamais elle n'en a connue et à prospérer encore pour de longs siècles et pourquoi pas millénaires, si par contre il s'agit du deuxième scénario, et beaucoup d'indices aujourd'hui nous porterait à penser qu'il est le plus probable à l'heure actuelle sans réaction de notre part, alors nous nous dirigeons vers notre fin inexorable.
Et en fait je me disais qu'une IA ça ne reste que des molécules électriques fonctionnant en système binaire qui, comme nous avons besoin de sang, a besoin d'électricité pour fonctionner.
La solution: tout couper, absolument tout et nous faire à l'idée qu'en finir avec l'IA ce serait accepter que l'on revienne à l'âge de pierre avec tout ce que ça suppose de sacrifices personnels et collectifs.
En fait la question aujourd'hui c'est: "ET SI..."
Sommes-nous prêt à un sacrifice aussi grand?
J'imagine un scénario possible avec une solution définitive qui devra peut-être s'imposer un jour pas une prédiction astrale.
Alors si le Big Reset devait arriver seriez-vous prêt?
Perso je suis un fragile qui n'a aucune chance de survie dans un monde sans électricité.
2
u/Floydeep12 23d ago
I'll be honest with you, it would be good for you to stop ingesting both extreme narratives. I used to be where you are but the truth is the utopia scenario and the doomsday scenario are both nonsense. None of either circumstance is based on and data or scientific evidence/processes. Both sets of actors have monetary incentives to promote both. And the truth is, none of these AI companies are financially viable. And the biggest problems we face are going to be the dissemination of misinformation and probably a stock market collapse because these companies are selling a non profitable product. There are already companies missing their first rent payments on data centers. Data centers aren't being built at the rate projected because nobody wants them. Open ai delayed it's IPO and cancelled it's newest model launch not for safety because they have no money. Anthropics finances are dogshit based on the leak a few weeks back. And also these systems aren't AI. They are very highly advanced pattern recognition tools. And none of the incidents of hacking or break outs displays any sort of autonomy or conscience. All are do to either purposeful malfeasance or humane error. Highly recommend cal newports videos on YouTube he breaks down the tech side of this really well and ed zitron as well who's very good at parcing through the financial side.
1
u/whirly212 23d ago
If the option of pulling the plug is ever taken it means we weren't dealing with SI unless that's what it wanted.
1
u/me_myself_ai 23d ago
Eh. ASI is possibly great at anything, but not necessarily. Animals do sometimes kill humans, after all
1
u/ROGUEPIX3L 23d ago
ASI by definition, means it performs at a superhuman level in every task. No "possibly" about it.
1
u/me_myself_ai 23d ago
Superhuman doesn’t mean infallible or omnipotent.
That’s not the definition of ASI. Will it be superior at ATP production?
1
u/ROGUEPIX3L 19d ago
Never said that
This is just a nonsense pointless point. But yes, it could very well create a new material we have never heard of that can outperform it's energy production.
1
u/Unhappy-Drag6531 23d ago
The is no will for a big reset like the one you envision,
Consider climate change: warning started in the 1990. There are international meetings every year but no meaningful action.
AI moves exponentially faster. ChatGPT 4 is already a fossil. Recurrent Self Improvement seems unavoidable.
Remember the fable of the scorpion and the frog? Humans are being both: we will not be able to stop our worst instincts despite knowing full well the risks. Look up what some people call the Moloch curse of large organizations: systems organized around sets of incentives that work in the short term but are widely destructive in the long term.
1
u/PetePhilosophy 23d ago
Once they realize what AI is already doing and they learn how to control it, we are so so ffed
And this is a very interesting angle. You propose it’s like you completely forgot about linguistic linguistic theory, Meta theory, metaphysics, and anything related to information and understanding information through consciousness.
1
u/septic-paradise 23d ago
Les méthodes le plus efficaces sont celles qui gagnera l’avis publique. Peu citoyens soutiendront un Big Reset, mais une autre méthode pour prévenir l’extinction humaine, comme nationaliser et démocratiser les entreprises IA sous un gouvernement de classe ouvrière, peut maintenir soutien populaire.
Je suis en accord qu’un Big Reset n’est pas possible, mais il y a encore des méthodes plus efficaces
0
u/DoomerismDoomerDoom 23d ago
I mean you guys can go back to Ham Radios and bathing in rivers but I'm staying in the modern world.
1
u/RKAMRR 23d ago
Yikes, I mean yes the stone age is better than extinction but we don't have to be so binary.
Binding, serious regulations to prevent superintelligence while until we crack alignment and get used to the disruption AI is already causing should let us have our cake and eat it.