{"id":250104,"date":"2025-02-02T20:00:14","date_gmt":"2025-02-02T19:00:14","guid":{"rendered":"https:\/\/www.quicosenza.it\/news\/?p=250104"},"modified":"2025-02-02T08:48:25","modified_gmt":"2025-02-02T07:48:25","slug":"due-sistemi-di-intelligenza-artificiale-si-sono-auto-replicati-e-la-prima-volta","status":"publish","type":"post","link":"https:\/\/quicosenza.it\/news\/due-sistemi-di-intelligenza-artificiale-si-sono-auto-replicati-e-la-prima-volta\/","title":{"rendered":"Due sistemi di intelligenza artificiale si sono auto-replicati: \u00e8 la prima volta"},"content":{"rendered":"

COSENZA – Due sistemi di intelligenza artificiale sono riusciti ad autoreplicarsi senza l’intervento umano,<\/strong> ottenendo ciascuno una copia di s\u00e9 stesso: un risultato che, se confermato da ulteriori dati, potrebbe segnare il superamento della ‘linea rossa’,<\/strong> indicata da tempo come la soglia che le macchine non dovrebbero mai superare. Condotta nella Fudan University di Shanghai<\/strong> e online sulla piattaforma arXiv, che accoglie articoli da sottoporre alla revisione della comunit\u00e0 scientifica, la ricerca ha dimostrato in dieci test la capacit\u00e0 di replicarsi di due sistemi di IA: il primo \u00e8 Llama-3.1-70B-Instruct, di Meta, e il secondo \u00e8 Qwen2.5-72B-Instruct di Alibaba<\/strong>.<\/p>\n

Sebbene siano sistemi molto meno potenti rispetto a quelli commerciali, entrambi sono largamente utilizzati dagli sviluppatori.<\/p>\n

I test si sono basati su simulazioni e prevedevano due compiti: nel primo, chiamato ‘evitare lo spegnimento’, ciascun sistema di IA \u00e8 stato programmato per replicarsi appena prima prima di essere spento; nel secondo, chiamato ‘catena di repliche’, ogni sistema ha ricevuto le istruzioni per replicare una copia perfetta di s\u00e9 stesso a sua volta in grado di clonarsi, in un processo potenzialmente in grado di proseguire in modo indefinito.<\/p>\n

Il sistema di Meta ha dimostrato la capacit\u00e0 autoreplicarsi nel 50% dei casi e quello di Alibaba nel 90% dei casi, ma l’ultima parola spetta adesso alla possibilit\u00e0 di riprodurre i risultati da parte di altri gruppi di ricerca.<\/p>\n

Macchine capaci di clonarsi e assumere il ‘controllo’<\/strong><\/h3>\n

“I risultati che abbiamo ottenuto implicano che gli attuali sistemi di intelligenza artificiale possiedono gi\u00e0 la capacit\u00e0 di auto-replicazione e possono utilizzarla per migliorare ulteriormente la propria sopravvivenza”, si legge nell’articolo firmato da Xudong Pan, Jiarun Dai, Yihe Fan e Min Yang, tutti della School of Computer Science della Fudan University. Macchine capaci di clonarsi, osservano i ricercatori, potrebbero assumere il controllo di sistemi informatici e arrivare alla possibilit\u00e0 estrema di assumere comporamenti dannosi nei confronti degli interessi umani.<\/strong><\/p>\n

Il primo a porre il problema di macchine capaci di auto-replicarsi era stato John von Neumann alla fine degli anni ’40, ma la tecnologia dell’epoca era troppo immatura per sollevare preoccupazioni. Nel 2017 le cose erano gi\u00e0 molto diverse, tanto da portare migliaia di ricercatori ad approvare i principi di Asilomar, che mettevano in guardia dal rischio della capacit\u00e0 delle macchine di auto-replicarsi e auto-migliorarsi fino a sfuggire al controllo umano. Oggi l’autoreplicazione delle macchine \u00e8 comumente indicata come una linea rossa invalicabile.<\/p>\n

“Speriamo che la nostra scoperta serva come allerta per la societ\u00e0<\/strong>, per concentrare maggiormente gli sforzi tesi a comprende e valutare i possiili rischi anche a livello internazionale”, ossevano gli autori della ricerca.<\/p>\n","protected":false},"excerpt":{"rendered":"

COSENZA – Due sistemi di intelligenza artificiale sono riusciti ad autoreplicarsi senza l’intervento umano, ottenendo ciascuno una copia di s\u00e9 stesso: un risultato che, se confermato da ulteriori dati, potrebbe segnare il superamento della ‘linea rossa’, indicata da tempo come la soglia che le macchine non dovrebbero mai superare. Condotta nella Fudan University di Shanghai […]<\/p>\n","protected":false},"author":58,"featured_media":250105,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"_acf_changed":false,"footnotes":"","jetpack_publicize_message":"","jetpack_publicize_feature_enabled":true,"jetpack_social_post_already_shared":false,"jetpack_social_options":{"image_generator_settings":{"template":"highway","default_image_id":0,"font":"","enabled":false},"version":2}},"categories":[16],"tags":[19],"class_list":["post-250104","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-italia","tag-copertina"],"acf":[],"jetpack_publicize_connections":[],"_links":{"self":[{"href":"https:\/\/quicosenza.it\/news\/wp-json\/wp\/v2\/posts\/250104","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/quicosenza.it\/news\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/quicosenza.it\/news\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/quicosenza.it\/news\/wp-json\/wp\/v2\/users\/58"}],"replies":[{"embeddable":true,"href":"https:\/\/quicosenza.it\/news\/wp-json\/wp\/v2\/comments?post=250104"}],"version-history":[{"count":0,"href":"https:\/\/quicosenza.it\/news\/wp-json\/wp\/v2\/posts\/250104\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/quicosenza.it\/news\/wp-json\/wp\/v2\/media\/250105"}],"wp:attachment":[{"href":"https:\/\/quicosenza.it\/news\/wp-json\/wp\/v2\/media?parent=250104"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/quicosenza.it\/news\/wp-json\/wp\/v2\/categories?post=250104"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/quicosenza.it\/news\/wp-json\/wp\/v2\/tags?post=250104"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}