Please use this identifier to cite or link to this item:
https://hdl.handle.net/10216/169604| Author(s): | João Guilherme Lopes Grilo |
| Title: | Desenvolvimento de uma plataforma de AutoML |
| Issue Date: | 2025-09-24 |
| Abstract: | In recent years, public and private organisations have intensified their pursuit of data-driven decision-making, yet the construction and upkeep of predictive models remain costly in time, specialised expertise, and infrastructure. Issues such as the derivation and acquisition of new data from existing sources, limited traceability, and shortages of skilled professionals continue to hinder the scalability of the Machine Learning lifecycle. This thesis sets out to design a modular AutoML platform that lowers these barriers by auto- mating the entire workflow, from data ingestion to production monitoring, while avoiding vendor lock-in or the need for advanced domain knowledge. By adopting a vendor-agnostic architecture, the solution seeks to enhance portability, shorten time-to-production, and improve predictive capacity. The proposed architecture begins with an automatic normalisation pipeline that converts structured and unstructured data into a canonical format. It then employs a feature-engineering engine driven by Large Language Models, followed by a multi-objective hyper-parameter optimiser. Probabilistic calibration combined with Conformal Prediction provides uncertainty estimates with formal coverage guarantees. Interpretability layers (SHAP, ICE) expose model rationales, and a self-healing monitoring loop based on shadow models detects drift and triggers retraining without human intervention. Validation in three real-world scenarios: sports sales forecasting, metallurgical copper and zync process optimisation, and academic churn detection, yielded average improvements of +0.13 in R2 and primary-error reductions of roughly 14 %, while cutting delivery times by up to a factor of four relative to manual baselines. These results demonstrate that a unified, LLM-guided AutoML approach enriched with uncertainty management and auto-remediation can democratise reliable and sustainable Machine Learning across diverse domains. |
| Description: | Nos últimos anos, organizações públicas e privadas têm procurado acelerar decisões baseadas em dados, mas a construção e a manutenção de modelos preditivos continuam onerosas em tempo, conhecimento especializado e infraestrutura. Problemas como derivação e aquisição de novos dados, com base nos existentes, falta de rastreabilidade e escassez de perfis especializados tornam o ciclo de vida de Machine Learning difícil de escalar. Esta dissertação tem como objetivo principal conceber uma plataforma AutoML modular que reduza essas barreiras, automatizando todo o fluxo, desde a ingestão de dados até à monitorização em produção, sem dependência de fornecedores proprietários ou de conhecimento especializado. Ao centrar-se num desenho agnóstico, pretende-se aumentar a portabilidade, diminuir o tempo até a existência de um modelo em produção e melhorar a capacidade preditiva. A arquitetura proposta é composta por uma pipeline de normalização automática que converte dados estruturados e não-estruturados num formato canónico, seguido de um motor de engenharia de atributos guiado por LLMs. Um otimizador multi-objectivo explora o espaço de hiperparâmetros, enquanto um módulo de calibração probabilística, aliado a Conformal Prediction, quantifica incertezas com garantias formais de cobertura. Camadas de interpretabilidade (SHAP, ICE) expõem o racional dos modelos, e um circuito de monitorização auto-corretivo baseado em shadow-models deteta deriva e ativa retrainings sem intervenção humana. A plataforma foi validada em três cenários reais: previsão de vendas no desporto, otimização metalúrgica de variáveis de processo de produção de cobre e zinco e deteção de abandono académico, demonstrando ganhos médios de +0,13 em R2 e reduções de erro primário da ordem dos 14 %, com tempos de entrega até quatro vezes mais curtos que abordagens manuais. Em síntese, o trabalho comprova que uma abordagem unificada, guiada por LLMs e enriquecida com mecanismos de incerteza e auto-remediação, pode democratizar a adoção de Machine Learning confiável e sustentável em múltiplos domínios. |
| Subject: | Outras ciências da engenharia e tecnologias Other engineering and technologies |
| Scientific areas: | Ciências da engenharia e tecnologias::Outras ciências da engenharia e tecnologias Engineering and technology::Other engineering and technologies |
| TID identifier: | 204114870 |
| URI: | https://hdl.handle.net/10216/169604 |
| Document Type: | Dissertação |
| Rights: | openAccess |
| Appears in Collections: | FEUP - Dissertação |
Files in This Item:
| File | Description | Size | Format | |
|---|---|---|---|---|
| 742961.pdf | Desenvolvimento de uma plataforma de AutoML | 2.06 MB | Adobe PDF | ![]() View/Open |
Items in DSpace are protected by copyright, with all rights reserved, unless otherwise indicated.
