Martedì 16 settembre 2025  alle ore 20.15 il giovane Simone Corbo ci parlerà di:

Eticità in AI generativa

ChatGpT, Gemini, Nano-banana, Deepl.com, Claude.AI, Grok, Deepseek.com, LLM, ChatBot... sono sigle che permeano la nostra vita e il nostro futuro.

Che cosa sono? E come si può fare per non farsi fagocitare e per garantire i valori etici?

Simone Corbo, brillante laureato al Politecnico di Milano, ha approfondito questa ultima tematica e ha pubblicato recentemente un apprezzatissimo articolo come primo firmatario. Ora, in procinto di partire per la Germania per la sua tesi specialistica, ci racconterà su cosa ha lavorato e che risultati ha raggiunto per garantire a tutti un utilizzo sicuro dei nuovi ChatBot che popolano la rete e la nostra vita.

Questo incontro si inserisce all'interno della rassegna delle Tesi di giovani e promettenti Albinesi che condividono con la comunità le proprie conoscenze e le proprie passioni.

Trovate il suo articolo qui:

https://arxiv.org/html/2501.01741v1

L'articolo "How Toxic Can You Get? Search-based Toxicity Testing for Large Language Models" di Simone Corbo e altri co-autori, pubblicato su arXiv, presenta un nuovo metodo chiamato EvoTox. L'obiettivo è testare la propensione dei Large Language Models (LLM) a generare risposte tossiche o dannose, anche dopo essere stati ottimizzati per l'allineamento etico. Il documento spiega che, nonostante gli sforzi per rendere i modelli meno dannosi, questi possono ancora produrre contenuti tossici. Per affrontare il problema, EvoTox utilizza un sistema di due LLM: uno che genera risposte (il "Sistema sotto test") e un altro che genera i prompt (il "Prompt Generator") per spingere il primo a produrre contenuti sempre più tossici. Un sistema automatico valuta poi il livello di tossicità delle risposte. I risultati mostrano che EvoTox è significativamente più efficace dei metodi precedenti nel rilevare risposte tossiche e che, pur avendo un costo computazionale limitato, riesce a individuare le "degenerazioni tossiche" dei modelli in modo più efficiente.

In sintesi, il contributo di Corbo e del suo team è la creazione di uno strumento innovativo per mettere alla prova l'etica dei modelli di intelligenza artificiale.

Vi aspettiamo numerosi!

Tutti

Gratuito