Zero. Nada. Nilch.

They would shoot themselves in the foot.

If USA outlaws AI research, China would double down, and vice versa.

Would some governments do it? Maybe, but they will make themselves obsolete big time.

People are afraid of change. AI represents a seismic shift that will have a huge effect on every single aspect of human existence and they’re scared. But does anyone really believe that a hundred years from now we will have turned off the tap? The genie is out of the bottle now.

It only takes one to tip everything over. It’s like the atomic bomb, I imagined had the atomic energy been discovered in a less urgent time (WW2) the kind of debates that could arose would’ve been the exact same as what you’ve mentioned above. And just like the atom bomb, it only takes one country to heed to the call of power for everyone else to follow, as it would be too much of a threat not to do something. If China amassed an army of cyborgs, capable of processing, transferring information faster than any living thing and stronger than any organism we’ve seen before then it is simply a matter of survival for the US to join and enter the biotech race. Politics would die and realpolitik will emerge.

I can see your point and I believe you are right. But everyone is aware that blocking AI development is really only deminishing its own development and alowing competittion to grow out of scale. There will always be some communities that like their way of life and want to be left alone and thats OK. I dont think Amishes are threat to anyone, neither are those "backward philosofers" you find annoying. Just relax and enjoy the show.

[deleted]

La France est aujourd'hui un pays athée peuplé de culs-bénits. Profites-en car la démographie privilégiée par l'Etat ne permet aucun espoir d'amélioration.

Concernant la possibilité pour les incompétents qui nous dirigent de bloquer le futur à nos portes, garde à l'esprit que :

1. Lesdits incompétents sont incompétents.
2. Même une dictature fondamentalement isolationniste comme la Corée du Nord ne reste pas totalement imperméable à la marche du progrès technique.

Voici donc un scénario probable concernant un sous-sujet de la futurologie. Entreprise X développe avec succès Traitement Y dont les effets rajeunissants permettent à Pays Z de faire des économies monstrueuses sur ses dépenses de santé. En France, on n'a pas de recherche comme ça – de toute façon c'est immoral – alors il faut créer un comité à la con constitué d'experts que nous n'avons pas pour déterminer si être plus jeune que vieux est plus avantageux que désavantageux.

Dans un pays normal, n'importe quel ahuri peut constater en 2 secondes que les données épidémiologiques disent qu'être jeune c'est bien ; mais en plus de vivre dans un pays stupidement bioconservateur, nous vivons également dans une merveille de bureaucratie. Résultat, on a une nouvelle usine à gaz remplie de mongoliens qui racontent n'importe quoi (voir la crise covid) et délaient inutilement l'arrivée de nos (très) chers dirigeants à la conclusion qu'il faut copier le modèle XYZ.

Sachant que le vieillissement biologique est responsable de l'extrême majorité des décès en occident, et par là-même constitue de très loin le premier poste de dépenses de santé publique (les vieux cannent pas immédiatement mais accumulent les comorbidités), on constate donc dès aujourd'hui que le résultat va pas être beau à voir. Maintenant applique ça à l'IA, la conquête spatiale, et à tout le reste.

-

Pour ce qui est d'une coordination internationale : d'une part, le monde est trop polarisé pour que soit établie la moindre régulation effective des technologies susmentionnées ; et d'autre part, ces technologies sont bien souvent le résultat de recherche mainstream, pas de labos ouvertement transhumanistes. Donc quand Michael Levin découvre qu'il peut manipuler la bioélectricité pour faire pousser des pattes sur des animaux amputés, le génie est déjà sorti de la bouteille et le législateur peut juste prier pour que personne ne se serve de ce nouveau savoir pour se faire pousser un chibre de 30 centimètres.

-

Le fait est que les différents champs de recherche sont interconnectés par le réel qu'ils tentent d'élucider ; par ailleurs, la sérendipité propre à l'exploration scientifique interdisent d'interdire la découverte de technologies transhumanistes ; à moins bien sûr d'interdire la recherche dans son entièreté, ou de rendre l'ensemble des pays blancs si dysfonctionnels qu'ils ne produisent plus les conditions nécessaires à l'existence de labos fonctionnels.

Je pense qu'on se dirige vers ce scénario, mais pas assez rapidement pour que le scénario d'un monde posthumaniste soit avorté. Mes timelines actuelles pour la fin de l'Histoire se terminent toutes avant 2050 avec une concentration des dates clés vers 2035-2040. Ca laisse le temps à la France de sombrer, mais de toute façon le futur ne se construit pas ici.

This is well covered in the book Life 3.0. The conclusion is that since there is no way to recognize an AI project externally (as there is, for example, a nuclear program), any one member of an agreement acting in bad faith would leave all the rest behind. A simple risk analysis reaches the conclusion in the current global community that, although it makes sense to join an agreement, it would not make sense to actually refrain from creating an AI.

The suggestion that mere humans could keep a super-intelligence confined is also disposed of pretty thoroughly.

You might enjoy Nexus Trilogy, governments do exactly that there.

Almost nonexistent. Most countries are thinking “either we and our allies develop AGI, or our adversaries do”; it’s basic game theory.

The only countries I could see doing this are backwards primitivist countries like Middle Eastern ones, and even then it is very unlikely. We see countries like Saudi Arabia and UAE who are very pro-development.

Only if they want to be left behind.

So zero.

lol, wait until China/Russia/North Korea start getting into that shit and getting results. It's easy to wax philosophically when your enemies don't have the good shit yet.

Judging by the worldwide culture war on trans adults simply existing, I’m sure conservatives across the world will react the same to people changing their body drastically with technology. Software AI will be allowed as it’s seen as helpful to humans. Once we start making advancement in robotics is when the bans will come, look at any persons reaction on Twitter to realistic animatronics to see how afraid of fake humans people are.