AI Arms Race ‚Risks Ampling Exisentální nebezpečí superintelligence‘ | UK novinky

Podle jednoho z „kmotrů“ AI riskuje, že existenciální nebezpečí superintetelligence vyvolává nedávnou paniku nad čínským chatbotem Deepseekem, vyvolaná nedávnou panikou nad čínským chatbotem Deepseekem, rizika zesílení existenciálních nebezpečí superintelligence.

Kanadský průkopník strojového učení Yoshua Bengio, autor první mezinárodní zprávy o bezpečnosti AI, která bude předložena na mezinárodním summitu AI v Paříži příští týden, varuje nekontrolované investice do výpočetní síly pro AI bez dohledu, je nebezpečná.

„Úsilí jde o to, kdo vyhraje závod, spíše než o to, jak se ujistíme, že nebudeme stavět něco, co do tváře fouká,“ říká pan Bengio.

Varuje, že vojenské a hospodářské závody „mají za následek řezání rohů na etice, snižování rohů o odpovědnosti a bezpečnosti. Je to nevyhnutelné“.

Pan Bengio pracoval na neuronových sítích a strojovém učení, na softwarové architektuře, která podporuje moderní modely AI.

Je v Londýně, spolu s dalšími průkopníky AI, aby získali cenu Queen Elizabeth, nejprestižnější ocenění ve Velké Británii inženýrství za uznání AI a jejího potenciálu.

Je nadšený ze svých výhod pro společnost, ale otočení od regulace AI Donald Trump„Bílý dům a zběsilá konkurence mezi velkými technologickými společnostmi pro silnější modely AI je znepokojující posun.

„Nadlidské systémy se stávají silnějšími“

„Stavíme systémy, které jsou stále silnější; v některých dimenzích se stává nadlidským,“ říká.

„Jak se tyto systémy stávají silnějšími, stávají se také mimořádně cennějšími, ekonomicky řečeno.

„Takže velikost:“ Páni, to z mě udělá spoustu peněz „motivuje mnoho lidí. A samozřejmě, když chcete prodávat produkty, nechcete mluvit o rizicích.“

Ale ne všichni „kmotři“ AI jsou tak znepokojeni.

Vezměte Yann Lecun, hlavní vědec AI Meta, také v Londýně, abyste se podělili o cenu QE.

„Byli jsme oklamáni, abychom si mysleli, že modely velkých jazyků jsou inteligentní, ale ve skutečnosti nejsou,“ říká.

„Nemáme stroje, které jsou téměř stejně chytré jako domácí kočka, pokud jde o pochopení fyzického světa.“

Během tří až pěti let pan LeCun předpovídá, že AI bude mít některé aspekty inteligence na úrovni člověka. Například roboti, kteří mohou provádět úkoly, které nebyly naprogramovány nebo vyškoleny.

Přečtěte si více:
Co je Deepseek? Nízkonákladová čínská firma AI, která změnila technologický svět vzhůru nohama
Bill Gates říká, že by mu byla diagnostikována autismus, kdyby byl dnes mladý

Ale tvrdí, že spíše než aby byl svět méně bezpečný, Deepseek Drama – kde čínská společnost vyvinula AI, aby soupeřila s velkou technikou Best of America s desetinou výpočetního výkonu – ukazuje, že nikdo nebude dominovat dlouho.

„Pokud se USA rozhodnou šplhat, pokud jde o AI z geopolitických důvodů, nebo z obchodních důvodů, pak budete mít inovace jinde na světě. Deepseek to ukázal,“ říká.

Královská akademie inženýrské ceny se každoročně uděluje inženýrům, jejichž objevy mají nebo slibují, že na svět mají největší dopad.

Mezi předchozí příjemce patří průkopníci fotovoltaických buněk v solárních panelech, technologii větrné turbíny a neodymské magnety nalezené v pevných discích a elektrické motory.

Ministr vědy Lord Vallance, který předsedá Nadaci QE Prize Foundation, říká, že je ostražitý na potenciální rizika AI.

Organizace, jako je nový britský bezpečnostní institut AI, jsou navrženy tak, aby předvídaly a zabránily potenciálním poškozením „lidské“ inteligence, které by mohly přinést „lidskou“ inteligenci.

Je však méně znepokojen tím, že jeden národ nebo společnost mají monopol na AI.

„Myslím, že to, co jsme viděli v posledních několika týdnech, je mnohem pravděpodobnější, že v tomto prostoru budeme mít mnoho společností a myšlenka jednorázové dominance je poněkud nepravděpodobná,“ říká.