Please use this identifier to cite or link to this item: https://hdl.handle.net/10216/169604
Author(s): João Guilherme Lopes Grilo
Title: Desenvolvimento de uma plataforma de AutoML
Issue Date: 2025-09-24
Abstract: In recent years, public and private organisations have intensified their pursuit of data-driven decision-making, yet the construction and upkeep of predictive models remain costly in time, specialised expertise, and infrastructure. Issues such as the derivation and acquisition of new data from existing sources, limited traceability, and shortages of skilled professionals continue to hinder the scalability of the Machine Learning lifecycle. This thesis sets out to design a modular AutoML platform that lowers these barriers by auto- mating the entire workflow, from data ingestion to production monitoring, while avoiding vendor lock-in or the need for advanced domain knowledge. By adopting a vendor-agnostic architecture, the solution seeks to enhance portability, shorten time-to-production, and improve predictive capacity. The proposed architecture begins with an automatic normalisation pipeline that converts structured and unstructured data into a canonical format. It then employs a feature-engineering engine driven by Large Language Models, followed by a multi-objective hyper-parameter optimiser. Probabilistic calibration combined with Conformal Prediction provides uncertainty estimates with formal coverage guarantees. Interpretability layers (SHAP, ICE) expose model rationales, and a self-healing monitoring loop based on shadow models detects drift and triggers retraining without human intervention. Validation in three real-world scenarios: sports sales forecasting, metallurgical copper and zync process optimisation, and academic churn detection, yielded average improvements of +0.13 in R2 and primary-error reductions of roughly 14 %, while cutting delivery times by up to a factor of four relative to manual baselines. These results demonstrate that a unified, LLM-guided AutoML approach enriched with uncertainty management and auto-remediation can democratise reliable and sustainable Machine Learning across diverse domains.
Description: Nos últimos anos, organizações públicas e privadas têm procurado acelerar decisões baseadas em dados, mas a construção e a manutenção de modelos preditivos continuam onerosas em tempo, conhecimento especializado e infraestrutura. Problemas como derivação e aquisição de novos dados, com base nos existentes, falta de rastreabilidade e escassez de perfis especializados tornam o ciclo de vida de Machine Learning difícil de escalar. Esta dissertação tem como objetivo principal conceber uma plataforma AutoML modular que reduza essas barreiras, automatizando todo o fluxo, desde a ingestão de dados até à monitorização em produção, sem dependência de fornecedores proprietários ou de conhecimento especializado. Ao centrar-se num desenho agnóstico, pretende-se aumentar a portabilidade, diminuir o tempo até a existência de um modelo em produção e melhorar a capacidade preditiva. A arquitetura proposta é composta por uma pipeline de normalização automática que converte dados estruturados e não-estruturados num formato canónico, seguido de um motor de engenharia de atributos guiado por LLMs. Um otimizador multi-objectivo explora o espaço de hiperparâmetros, enquanto um módulo de calibração probabilística, aliado a Conformal Prediction, quantifica incertezas com garantias formais de cobertura. Camadas de interpretabilidade (SHAP, ICE) expõem o racional dos modelos, e um circuito de monitorização auto-corretivo baseado em shadow-models deteta deriva e ativa retrainings sem intervenção humana. A plataforma foi validada em três cenários reais: previsão de vendas no desporto, otimização metalúrgica de variáveis de processo de produção de cobre e zinco e deteção de abandono académico, demonstrando ganhos médios de +0,13 em R2 e reduções de erro primário da ordem dos 14 %, com tempos de entrega até quatro vezes mais curtos que abordagens manuais. Em síntese, o trabalho comprova que uma abordagem unificada, guiada por LLMs e enriquecida com mecanismos de incerteza e auto-remediação, pode democratizar a adoção de Machine Learning confiável e sustentável em múltiplos domínios.
Subject: Outras ciências da engenharia e tecnologias
Other engineering and technologies
Scientific areas: Ciências da engenharia e tecnologias::Outras ciências da engenharia e tecnologias
Engineering and technology::Other engineering and technologies
TID identifier: 204114870
URI: https://hdl.handle.net/10216/169604
Document Type: Dissertação
Rights: openAccess
Appears in Collections:FEUP - Dissertação

Files in This Item:
File Description SizeFormat 
742961.pdfDesenvolvimento de uma plataforma de AutoML2.06 MBAdobe PDFThumbnail
View/Open


Items in DSpace are protected by copyright, with all rights reserved, unless otherwise indicated.