Aggiungo, alle considerazioni in questo post, qualche altra riflessione sui rischi di utilizzare ChatGPT e gli strumenti IA in generale. Il prof. White, menzionato nel post, invita a: 1) usare ChatGPT come strumento di “intelligenza aumentata” per incrementare, anziché ridurre, le nostre capacità cognitive; 2) chiederci se, a causa del modo in cui usiamo l’IA, un domani sarà più facile sostituirci con l’IA stessa oppure con qualcuno che la sa usare e, in più, ha anche le competenze X, Y e Z che noi non abbiamo o abbiamo perso. È questa la vera domanda che dovrebbero farsi anche gli studenti che ricorrono a ChatGPT o strumenti simili per ‘semplificarsi la vita’. La questione importante non è se facendo svolgere un certo compito all’IA si possa essere ‘beccati dai docenti’, ma se in questo modo si toglie qualcosa alle proprie capacità aumentando la probabilità, in futuro, di diventare superflui, almeno dal punto di vista lavorativo. Allo stesso tempo, però, le istituzioni formative devono chiedersi quali contenuti, vecchi e nuovi, siano significativi nell’epoca dell’IA. L’abilità di sommare lunghe liste di numeri, ad esempio, non è particolarmente utile se sono disponibili calcolatrici e PC. Quali competenze, allora, è importante che gli studenti (e i docenti) sviluppino quando si hanno a disposizione una miriade di strumenti IA? Si tratterà, molto probabilmente, di competenze di alto livello, come ad esempio la capacità di pianificare un compito e formulare un prompt in modo da ottenere un risultato migliore, di controllare l’output e di inserire in modo ottimale un sistema IA all’interno di un dato contesto. Ma una competenza di alto livello, che ritengo altrettanto importante, sarà anche quella di capire ancora meglio quando non utilizzare l’IA. Ne parleremo in un prossimo post.

In addition to the considerations in this post , I add some further reflections on the risks of using ChatGPT and AI tools in general. Professor White, mentioned in the post, advises: 1) to use ChatGPT as a tool for “augmented intelligence” to increase, rather than reduce, our cognitive capabilities; 2) to question whether, because of the way we use AI, it will be easier in the future to replace us with AI itself or with someone who knows how to use it and, in addition, has competencies X, Y, and Z that we do not have or have lost. This is the real question that students who turn to ChatGPT or similar tools to ‘simplify their life’ should also ask themselves. The important issue is not whether by delegating a certain task to AI one might be ‘caught by teachers’, but whether in doing so, one is removing something from their own capabilities, increasing the likelihood, in the future, of becoming superfluous, at least from a work perspective. At the same time, however, educational institutions must ask themselves which old and new contents are significant in the era of AI. The ability to sum a long list of numbers, for example, is not particularly useful if calculators and PCs are available. What skills, then, is it important for students (and teachers) to develop when a myriad of AI tools are available? These will most likely be high-level skills, such as the ability to plan a task and formulate a prompt in a way that achieves a better result, to check the output, and to optimally integrate an AI system within a given context. But a high-level skill, which I believe is equally important, will also be to understand even better when not to use AI. We will talk about this in a future post.

To answer this question, one can first refer to the chart shown below, derived from this UNESCO publication.

Here’s the essence of the chart: ChatGPT responses may contain errors and false or inaccurate information. If this is not a concern, then it is certainly safe to use the model; otherwise, one should ask whether one has the necessary skills to verify if ChatGPT’s output is correct and accurate or not. If you lack these skills, then it is not safe to use ChatGPT. However, if you do possess these skills, as a final step, you need to ask yourself whether you can – and want to – take full responsibility, from every perspective, for any errors or inaccuracies that may go unnoticed. If the answer is no, then, once again, it is not safe to use ChatGPT. If the answer is yes, then you can use the model’s output after carefully verifying it. The same guidelines apply to other systems, such as Google’s Bard, but also more generally. In his Thrustworthy Generative AI course, Professor Jules White (Vanderbilt University) invites us to think about this problem in terms of risk: what consequences could using AI-generated results have? Could there be serious repercussions for people? Economic or reputational harm? Other significant negative effects? Furthermore, is it easy or difficult to verify the obtained answers? If using the output of an AI can have significant consequences, verifying the answers is difficult, and you lack the skills to do so, then it is certainly advisable not to use AI or to use it in a way that reduces risks. How? Professor White provides these two examples: instead of asking ChatGPT if it is safe to take drug X (high risk), you can ask what questions it would be appropriate to ask a doctor, i.e. an expert, to evaluate the safety of taking X given your health conditions (lower risk, possibly affecting your reputation). Furthermore, instead of asking ChatGPT to extract/summarize critical information from a certain document (high risk), you can ask it to identify where in the document that information can be found (lower risk).
Using AI correctly requires not fewer skills but more skills, despite the countless charlatans who present AI as a sort of genie in a bottle that provides the solution to this or that problem without any effort on your part. A story that has been heard a million times, and just as many times proven false, if not dangerous.

Per rispondere a questa domanda si può, innanzi tutto, fare riferimento al grafico mostrato qui sotto, derivato da questa pubblicazione UNESCO.

Ecco il senso del grafico: le risposte di ChatGPT possono contenere errori e informazioni false o non accurate. Se questo non costituisce un problema allora è senz’altro sicuro usare il modello, in caso contrario occorre chiedersi se si hanno le competenze necessarie per verificare se l’output di ChatGPT sia corretto e accurato oppure no. Se non si possiedono queste competenze allora non è sicuro usare ChatGPT, altrimenti, come ultimo passo, è necessario domandarsi se ci si può – e si vuole – assumere la piena responsabilità, sotto ogni punto di vista, per eventuali errori o inaccuratezze non rilevate. Se la risposta è no allora, di nuovo, non è sicuro utilizzare ChatGPT, e se invece è sì l’output del modello si può utilizzare dopo averlo attentamente verificato. Le stesse indicazioni valgono per altri sistemi, come ad esempio Bard di Google, ma anche più in generale. Nel suo corso Thrustworthy Generative AI il prof. Jules White (Vanderbilt University) invita a pensare a questo problema in termini di rischio: usare i risultati prodotti da una IA quali conseguenze potrebbe avere? Ci potrebbero essere serie ripercussioni sulle persone? Danni economici o alla propria reputazione? Altri importanti effetti negativi? E ancora: verificare le risposte ottenute è facile o difficile? Se utilizzare l’output di una IA può avere conseguenze importanti, verificare le risposte ottenute è difficile e non si hanno le competenze per farlo allora è senz’altro raccomandabile non usare l’IA oppure utilizzarla in modo tale da ridurre i rischi. Come? White fa questi esempi: non va chiesto a ChatGPT se sia sicuro assumere il farmaco X (rischio elevato), ma eventualmente quali domande sia opportuno fare a un medico, cioè a un esperto, per valutare se sia sicuro assumere X date le proprie condizioni di salute (rischio minore, al più alla propria reputazione). E ancora: anziché chiedere a ChatGPT di estrarre/riassumere informazioni critiche da un certo documento (rischio alto) si può chiedergli di individuare dove, in quel documento, si trovino quelle informazioni (rischio più basso). Usare correttamente l’IA non richiede meno competenze, ma più competenze, nonostante i mille imbonitori che spacciano l’IA stessa per una specie di genio della lampada che fornisce la soluzione di questo o quel problema senza che si debba fare nulla. Una storia già sentita un milione di volte, e altrettante volte rivelatasi falsa, se non pericolosa.