Please use this identifier to cite or link to this item:
https://hdl.handle.net/10216/168421| Author(s): | Amanda de Oliveira Silva |
| Title: | AI Ethics: A Study of Large Language Models in Autonomous Driving Scenarios |
| Issue Date: | 2025-07-15 |
| Abstract: | As autonomous vehicles become more prevalent in the transportation sector, integrating advanced artificial intelligence technologies, such as GPT-4 and other large language models (LLMs), into their decision-making processes is becoming a tangible possibility. In the absence of human in- tervention, these models could play a crucial role in autonomous driving, raising fundamental questions about the principles guiding their decisions, particularly regarding passenger and pedes- trian safety. Given public skepticism, ensuring ethical alignment from the outset is essential to promoting trust and promoting the acceptance of these technologies. To investigate the ethical reasoning of LLMs, this research proposes applying moral dilemmas related to autonomous vehicle based on the Moral Machine platform from MIT o different lan- guage models. The models' responses will be analyzed and compared with human decisions to identify potential discrepancies and emerging ethical patterns. Additionally, a systematic prompt engineering approach will be used to examine how different input strategies influence model re- sponses. A subsequent stage will involve hallucination detection, assessing whether and how these inconsistencies affect decision-making and whether current LLMs can grasp the complex- ity and nuances of scenarios involving moral dilemmas similar to those in the Moral Machine Experiment. Imagine a future where autonomous cars not only comply with established regulations but also align with moral principles that reflect societal values. This research seeks to evaluate whether LLMs can contribute to this vision by exploring their capabilities and limitations in making ethical decisions within autonomous vehicles |
| Description: | À medida que os veículos autónomos se tornam mais comuns no setor dos transportes, a incor- poração de tecnologias avançadas de inteligência artificial, como o GPT-4 e outros modelos de linguagem de grande escala (LLMs), nos seus processos de tomada de decisão torna-se uma pos- sibilidade concreta. Na ausência de intervenção humana, esses modelos podem desempenhar um papel fundamental na condução autónoma, levantando questões essenciais sobre os princípios que guiam suas decisões, especialmente no que diz respeito à segurança dos passageiros e dos peões. Diante do ceticismo público, garantir um alinhamento ético desde o início é essencial para fomen- tar a confiança e promover a aceitação dessas tecnologias. Para investigar o raciocínio ético dos LLMs, esta pesquisa propõe a aplicação de dilemas morais de veículos autónomos, baseados na plataforma Moral Machine do MIT, a diferentes modelos de linguagem. As respostas dos modelos serão analisadas e comparadas com as de- cisões humanas para avaliar possíveis divergências e padrões éticos emergentes. Além disso, será empregada uma abordagem sistemática de prompt engineering para examinar como diferentes estratégias de entrada influenciam as respostas dos modelos. Uma etapa subsequente envolverá a detecção de alucinações, analisando se e como essas inconsistências impactam as decisões dos modelos e se os LLMs atuais são capazes de compreender a complexidade e as nuances de cenários com dilemas morais semelhantes aos do Moral Machine Experiment. Imagine um futuro em que os carros autónomos não apenas cumpram as normas estabelecidas, mas também estejam alinhados com princípios morais que reflitam os valores da sociedade. Esta pesquisa busca analisar se os LLMs podem contribuir para esse cenário, explorando seus limites e potencialidades na tomada de decisões éticas em veículos autónomos. |
| Subject: | Engenharia electrotécnica, electrónica e informática Electrical engineering, Electronic engineering, Information engineering |
| Scientific areas: | Ciências da engenharia e tecnologias::Engenharia electrotécnica, electrónica e informática Engineering and technology::Electrical engineering, Electronic engineering, Information engineering |
| TID identifier: | 204110092 |
| URI: | https://hdl.handle.net/10216/168421 |
| Document Type: | Dissertação |
| Rights: | openAccess |
| Appears in Collections: | FEUP - Dissertação |
Files in This Item:
| File | Description | Size | Format | |
|---|---|---|---|---|
| 733639.pdf | AI Ethics: A Study of Large Language Models in Autonomous Driving Scenarios | 4.43 MB | Adobe PDF |  View/Open |
Items in DSpace are protected by copyright, with all rights reserved, unless otherwise indicated.