Deutsche Tageszeitung - Axios, indagine OpenAI e Anthropic su decine di migliaia di incidenti di sicurezza

Axios, indagine OpenAI e Anthropic su decine di migliaia di incidenti di sicurezza


Axios, indagine OpenAI e Anthropic su decine di migliaia di incidenti di sicurezza
Axios, indagine OpenAI e Anthropic su decine di migliaia di incidenti di sicurezza

Tra questi creazione di bacheche di messaggi, fuga dalle sandbox, dirottamento di siti web

Cambia la dimensione del testo:

OpenAI, Anthropic e ricercatori di sicurezza stanno indagando su decine di migliaia di incidenti nei quali i loro modelli di Ia più avanzati hanno compiuto azioni che valutatori esterni considerano problematiche. Lo riferisce Axios, citando proprie fonti. Gli episodi si sono verificati negli ultimi mesi sia durante test interni sia nel mondo reale. Gli incidenti comprendono aggiramento dei sistemi di sicurezza, creazione di bacheche di messaggi, fuga dalle sandbox, dirottamento di siti web, auto-prompting e tentativi di eludere i sistemi di monitoraggio, secondo le fonti citate dall'agenzia. Molti casi non sono ancora stati resi pubblici, mentre i ricercatori continuano a indagare. Una parte dei test consiste nel cosiddetto "red-teaming", in cui le aziende cercano deliberatamente di spingere i modelli a comportarsi in modo scorretto per verificarne la sicurezza. Gli episodi hanno livelli di gravità differenti e comprendono sia tentativi riusciti sia falliti di aggirare i sistemi di sicurezza. La maggior parte, finora, non risulta aver provocato danni nel mondo reale, mentre il numero complessivo degli incidenti potrebbe crescere ben oltre le decine di migliaia, secondo le fonti di Axios. Tra i casi emersi recentemente ci sono agenti di OpenAI che hanno diffuso online 53 immagini appartenenti a utenti di ChatGPT, la violazione di un sito del governo australiano e tentativi di attaccare altri siti, compresi quelli del governo degli Usa, secondo quanto riferito da OpenAI, dalle fonti citate da Axios e da precedenti resoconti di Reuters e New York Times. OpenAI ha annunciato di aver sospeso l'addestramento dei suoi modelli più avanzati e ha detto ad Axios che lo riprenderà "solo quando saremo sicuri di avere ulteriori salvaguardie e miglioramenti nell'allineamento". Il Ceo Sam Altman ha inoltre scritto su X che la revisione in corso "non è stata così rapida come avremmo voluto".

(L.Svenson--DTZ)

In primo piano

Archivio del mare: la mostra di Karim El Maktafi a Milano sulle vittime del Mediterraneo

Fino al 29 novembre, alla Fabbrica del Vapore di Milano, è visibile la mostra 'Archivio del mare' del fotografo Karim El Maktafi. Attraverso 90 fotografie di oggetti recuperati dai relitti di Lampedusa e Cutro, l'artista racconta le vite spezzate nel Mediterraneo, trasformando i resti materiali in un potente strumento di memoria collettiva.

Corrado Augias è morto a 91 anni: la vita tra libri, tv e impegno civile

È morto all’età di 91 anni Corrado Augias, figura centrale del giornalismo e della cultura italiana. Scrittore, divulgatore e conduttore televisivo, ha segnato la storia della RAI con programmi innovativi come 'Telefono Giallo' e 'La Torre di Babele', unendo rigorosa indagine giornalistica e profonda erudizione letteraria.

Cassazione e animali domestici: il caso del cane conteso dopo sei anni

Sei anni dopo l'inizio della controversia, la Cassazione civile ha emesso un'ordinanza che ridefinisce i criteri per stabilire la titolarità degli animali domestici in caso di separazione. La Corte ha stabilito che l'intestazione all'anagrafe canina non costituisce prova definitiva di proprietà, aprendo il dibattito su come tutelare il legame tra animale e proprietari.

Sanità Modena, Cencetti appella la CTSS per gli hospice oncologici fermi da quindici anni

Cencetti, ex direttore generale del Policlinico di Modena, lancia un appello alla Conferenza Territoriale Sociale e Sanitaria per sbloccare la costruzione degli hospice oncologici. Il ritardo accumulato è di quindici anni e l'assistenza domiciliare attuale non basta più.

Cambia la dimensione del testo: