Investigación

Intelixencia artificial, do laboratorio ás persoas que a usan

Móvenos a curiosidade por como as máquinas atopan, len e razoan coa información, e queremos que o que construímos axude ás persoas. Esa curiosidade vai dos buscadores e os modelos de linguaxe á lóxica e a computación evolutiva, e sácanos do laboratorio: detectar sinais temperás de depresión na internet, medir o discurso de odio nas redes sociais, responder preguntas de saúde con fontes que podes comprobar. A continuación, cada liña presenta a súa xente, as preguntas que a teñen ocupada e os seus últimos artigos.

“early signs of depression in social media”

Detección temperá de riscos e saúde mental dixital

  • Detección temperá de riscos
  • Saúde mental
  • Depresión
  • PLN para a saúde
  • Persoas simuladas con LLM
  • eRisk

Construímos modelos e coleccións de proba para detectar sinais temperás de depresión, TDAH e outros riscos a partir do que a xente escribe en liña, e estudamos como poden razoar os modelos de linguaxe sobre os síntomas dun xeito clinicamente fiable. Desde 2017 o grupo coorganiza eRisk, o laboratorio do CLEF sobre predición temperá de riscos en internet.

Preguntas nas que traballamos

  • Pode un sistema ordenar a evidencia de cada síntoma do DSM-5, frase a frase?
  • Poden as persoas simuladas con LLM substituír os pacientes ao avaliar o cribado conversacional?
  • Como facemos que o razoamento dos LLM sobre a depresión sexa o bastante consistente para o persoal clínico?

Artigos recentes

“hate speech detection in Galician and Spanish”

Análise de redes sociais: discurso de odio, nesgos e danos en liña

  • Detección de discurso de odio
  • Danos en liña
  • Nesgos nos LLM
  • Moderación de contidos
  • Narrativas conspiranoicas
  • Ciencias sociais computacionais

Estudamos o que circula polas redes sociais e como o len os modelos. Reunimos grandes metacoleccións de publicacións con e sen odio, creamos datasets de narrativas conspiranoicas e hiperpartidistas, estudamos como anotan e xulgan este contido os modelos de linguaxe e medimos os nesgos demográficos e xeográficos que levan consigo. Parte deste traballo faise dentro da rede doutoral HYBRIDS sobre democracia e discurso en liña.

Preguntas nas que traballamos

  • Pode un LLM avaliar discurso de odio que non é quen de anotar con fiabilidade?
  • Adaptar un clasificador a unha rexión faino máis xusto ou máis prexuizoso?
  • Como cubrimos linguas con poucos recursos, como o galego?

Artigos recentes

“can LLMs replace human relevance judgments”

Avaliación da busca e LLM como avaliadores

  • Avaliación en RI
  • Coleccións de proba
  • Xuízos de relevancia con LLM
  • Pooling
  • Retroalimentación de relevancia
  • Reproducibilidade

Construír coleccións de proba é caro. Deseñamos estratexias de pooling, probas estatísticas e xuízos asistidos por LLM que manteñen a avaliación fiable e reducen o custo da avaliación humana, e comprobamos onde fallan os xuízos automáticos.

Preguntas nas que traballamos

  • Que documentos deben xulgar as persoas, e cales pode xulgar un LLM?
  • Como comparamos moitos sistemas á vez sen falsos descubrimentos?

Artigos recentes

“trustworthy answers to health questions”

Experiencia de busca, RAG e acceso á información de saúde

  • Xeración aumentada por recuperación
  • Acceso á información de saúde
  • Busca de saúde para o público
  • Suxestión de consultas
  • Simulación de usuarios
  • Fidelidade ás fontes

Das suxestións de consultas e a busca por palabras clave á xeración aumentada por recuperación, estudamos como busca a xente e como darlle respostas fieis á evidencia. Nos proxectos XMED e C3HS observamos as buscas de saúde da cidadanía, onde unha resposta errada pode facer dano de verdade.

Preguntas nas que traballamos

  • Cambia a resposta dun sistema RAG segundo a posición da evidencia no contexto?
  • Como avaliamos as suxestións de consultas ao longo de toda unha sesión, e non só os primeiros resultados?

Artigos recentes

“answer set programming with temporal logic”

Representación do coñecemento, razoamento explicable e IA clínica

  • IA explicable
  • Programación de conxuntos de respostas
  • Programación lóxica
  • Razoamento temporal
  • Apoio á decisión clínica
  • Dosificación de precisión

Desenvolvemos fundamentos lóxicos para sistemas de IA que poidan explicar as súas conclusións: programación de conxuntos de respostas (ASP), lóxica temporal e deóntica, e o seu uso para xerar explicacións en sistemas híbridos que combinan lóxica e aprendizaxe, que é o foco do proxecto GEISER. Esa mesma preocupación polas explicacións lévanos á clínica: co servizo de farmacia do Complexo Hospitalario Universitario da Coruña construímos modelos interpretables para personalizar a dose de fármacos despois dun transplante, onde unha recomendación só serve se o farmacéutico pode ver por que se fixo.

Preguntas nas que traballamos

  • Cando son fortemente equivalentes dous programas lóxicos con restricións?
  • Como representamos obrigas e permisos que poden entrar en conflito?
  • Pode unha IA interpretable personalizar as doses de tacrolimus en distintos hospitais?

Artigos recentes

“genetic programming interpretable prediction models”

Computación bioinspirada e aprendizaxe evolutiva

  • Programación xenética
  • Computación evolutiva
  • Algoritmos meméticos
  • Aprendizaxe automática interpretable
  • Predición da estrutura de proteínas
  • Evolución diferencial

A natureza resolve problemas de busca difíciles mediante variación e selección, e usamos esa mesma idea para construír modelos. Con programación xenética, evolución diferencial e algoritmos meméticos exploramos espazos demasiado grandes para percorrelos un a un: as formas en que pode pregarse unha proteína, as combinacións de ratios financeiros que anticipan a quebra dunha empresa ou o espazo latente dun modelo xerativo. O que evoluciona a programación xenética é unha fórmula lexible e non unha caixa negra, así que calquera pode comprobar por que predí o que predí, a mesma pregunta que lles facemos aos sistemas baseados en lóxica no proxecto GEISER.

Preguntas nas que traballamos

  • Pode a programación xenética seleccionar as variables e construír á vez un clasificador lexible?
  • Pode a busca evolutiva refinar as estruturas de proteínas preditas con aprendizaxe profunda?
  • Agrupar o espazo latente dun autocodificador variacional produce mellores imaxes xeradas?

Artigos recentes