{"id":14409,"date":"2025-03-18T23:31:50","date_gmt":"2025-03-18T22:31:50","guid":{"rendered":"https:\/\/www.palentino.es\/blog\/?p=14409"},"modified":"2025-03-18T23:33:56","modified_gmt":"2025-03-18T22:33:56","slug":"sesgos-informaticos-cuando-los-algoritmos-no-son-tan-objetivos-como-pensamos","status":"publish","type":"post","link":"https:\/\/www.palentino.es\/blog\/sesgos-informaticos-cuando-los-algoritmos-no-son-tan-objetivos-como-pensamos\/","title":{"rendered":"Sesgos inform\u00e1ticos: Cuando los algoritmos no son tan objetivos como pensamos"},"content":{"rendered":"<p>En la era digital, confiamos en la tecnolog\u00eda para tomar decisiones que antes eran solo humanas: reclutar personal, diagnosticar enfermedades, conceder cr\u00e9ditos, o filtrar informaci\u00f3n en redes sociales. Pensamos que los sistemas inform\u00e1ticos son precisos y objetivos, pero <strong>la tecnolog\u00eda no es neutral<\/strong>. Los <strong>sesgos inform\u00e1ticos<\/strong> aparecen cuando los programas, datos o algoritmos generan resultados parciales o discriminatorios.<\/p>\n<p>Esta entrada te ofrece un recorrido pr\u00e1ctico y reflexivo sobre c\u00f3mo surgen estos sesgos, d\u00f3nde los encontramos (desde bases de datos hasta la inteligencia artificial) y c\u00f3mo podemos enfrentarlos.<\/p>\n<p>&nbsp;<\/p>\n<div style=\"width: 640px;\" class=\"wp-video\"><!--[if lt IE 9]><script>document.createElement('video');<\/script><![endif]-->\n<video class=\"wp-video-shortcode\" id=\"video-14409-1\" width=\"640\" height=\"360\" preload=\"metadata\" controls=\"controls\"><source type=\"video\/mp4\" src=\"https:\/\/palentino.es\/videos\/sesgos.mp4?_=1\" \/><a href=\"https:\/\/palentino.es\/videos\/sesgos.mp4\">https:\/\/palentino.es\/videos\/sesgos.mp4<\/a><\/video><\/div>\n<p><!--more--><\/p>\n<h3>\u00bfQu\u00e9 es un Sesgo Inform\u00e1tico?<\/h3>\n<p>El sesgo inform\u00e1tico ocurre cuando un sistema computacional procesa informaci\u00f3n de forma desigual, generando errores sistem\u00e1ticos. Puede ser el resultado de <strong>datos de entrada defectuosos<\/strong>, <strong>dise\u00f1os de algoritmos poco representativos<\/strong> o <strong>interpretaciones incorrectas de los resultados<\/strong>.<\/p>\n<p>Un error com\u00fan es pensar que <strong>los ordenadores no se equivocan<\/strong>. Pero detr\u00e1s de cualquier sistema hay <strong>humanos que toman decisiones<\/strong>: qu\u00e9 datos usar, c\u00f3mo entrenar un modelo o qu\u00e9 reglas implementar.<\/p>\n<hr \/>\n<h3>\u00bfDe D\u00f3nde Vienen los Sesgos en Inform\u00e1tica?<\/h3>\n<ol>\n<li><strong>Datos Hist\u00f3ricos Incompletos o Desbalanceados<\/strong><br \/>\nSi los datos usados reflejan prejuicios o desigualdades del pasado, el sistema los aprender\u00e1.<br \/>\n<em>Ejemplo:<\/em> Un algoritmo de contrataci\u00f3n entrenado con datos donde los hombres eran contratados m\u00e1s que las mujeres aprender\u00e1 esa preferencia.<\/li>\n<li><strong>Errores en el Dise\u00f1o del Algoritmo<\/strong><br \/>\nSi el equipo que dise\u00f1a un sistema no considera todas las variables, pueden generar sesgos sin querer.<br \/>\n<em>Ejemplo:<\/em> Aplicaciones de reconocimiento facial con altos errores en ciertos grupos \u00e9tnicos debido a la falta de diversidad en los datos de entrenamiento.<\/li>\n<li><strong>Suposiciones y Simplificaciones<\/strong><br \/>\nA veces, para hacer un sistema m\u00e1s eficiente, se simplifican variables importantes. Esto puede excluir informaci\u00f3n relevante para ciertos usuarios.<\/li>\n<\/ol>\n<hr \/>\n<h3>\u00bfD\u00f3nde Aparecen los Sesgos Inform\u00e1ticos?<\/h3>\n<h4>1. <strong>Sistemas de IA y Machine Learning<\/strong><\/h4>\n<p>La <strong>inteligencia artificial<\/strong> es especialmente susceptible al sesgo. Estos sistemas <strong>aprenden de los datos<\/strong> y, si los datos tienen un sesgo, el sistema lo reproduce o incluso lo amplifica.<\/p>\n<ul>\n<li><strong>Reclutamiento autom\u00e1tico<\/strong>: IA que discrimina a mujeres o minor\u00edas \u00e9tnicas porque aprendi\u00f3 de datos hist\u00f3ricos sesgados.<\/li>\n<li><strong>Reconocimiento facial<\/strong>: Tasas de error mucho m\u00e1s altas en mujeres negras que en hombres blancos. Esto ha sido demostrado en estudios como el de <strong>MIT Media Lab (2018)<\/strong>.<\/li>\n<\/ul>\n<h4>2. <strong>Motores de Recomendaci\u00f3n y B\u00fasqueda<\/strong><\/h4>\n<p>Los algoritmos de plataformas como Google, Amazon o Netflix priorizan contenidos que refuerzan lo que ya creemos o consumimos. Esto genera <strong>burbujas de informaci\u00f3n<\/strong> y dificulta la exposici\u00f3n a opiniones diversas.<\/p>\n<h4>3. <strong>Software Financiero y de Cr\u00e9dito<\/strong><\/h4>\n<p>Aplicaciones que conceden pr\u00e9stamos pueden usar como variables el c\u00f3digo postal o el historial bancario, generando <strong>discriminaci\u00f3n indirecta<\/strong> a personas de bajos ingresos o de ciertos barrios, incluso sin considerar su solvencia real.<\/p>\n<h4>4. <strong>Aplicaciones M\u00e9dicas<\/strong><\/h4>\n<p>En la medicina, los algoritmos de diagn\u00f3stico pueden ser menos precisos en pacientes que pertenecen a grupos subrepresentados, porque los datos de entrenamiento no incluyen suficiente diversidad.<\/p>\n<hr \/>\n<h3>Casos Reales de Sesgos Inform\u00e1ticos<\/h3>\n<ul>\n<li><strong>COMPAS (2016)<\/strong>: Software usado en tribunales de EE.UU. para calcular la probabilidad de reincidencia delictiva. Fue denunciado por otorgar puntuaciones de riesgo desproporcionadamente m\u00e1s altas a personas negras.<\/li>\n<li><strong>Amazon (2018)<\/strong>: Sistema de IA para reclutamiento que discriminaba a mujeres porque el algoritmo aprendi\u00f3 de curr\u00edculums masculinos predominantes.<\/li>\n<li><strong>Google Photos (2015)<\/strong>: Clasific\u00f3 incorrectamente fotos de personas negras como &#8220;gorilas&#8221;, lo que gener\u00f3 un esc\u00e1ndalo sobre el sesgo en los sistemas de visi\u00f3n artificial.<\/li>\n<\/ul>\n<hr \/>\n<h3>\u00bfQu\u00e9 Factores Aumentan el Sesgo?<\/h3>\n<ol>\n<li><strong>Falta de diversidad en los datos<\/strong><\/li>\n<li><strong>Equipos de desarrollo homog\u00e9neos<\/strong> (sin representaci\u00f3n de distintas culturas, g\u00e9neros, razas).<\/li>\n<li><strong>Falta de auditor\u00edas y controles \u00e9ticos en el desarrollo de algoritmos<\/strong><\/li>\n<li><strong>Presi\u00f3n por lanzar productos al mercado sin evaluar las consecuencias sociales<\/strong><\/li>\n<\/ol>\n<hr \/>\n<h3>\u00bfQu\u00e9 Podemos Hacer Para Reducir los Sesgos Inform\u00e1ticos?<\/h3>\n<h4>1. <strong>Diversificar los Datos<\/strong><\/h4>\n<p>Incluir datos que representen a todos los usuarios posibles. Revisar constantemente para detectar <strong>desbalances<\/strong>.<\/p>\n<h4>2. <strong>Equipos Diversos<\/strong><\/h4>\n<p>Los desarrolladores y dise\u00f1adores deben tener <strong>diversidad de g\u00e9nero, etnia, contexto cultural y experiencia<\/strong>. Esto ayuda a detectar problemas invisibles para otros.<\/p>\n<h4>3. <strong>Auditor\u00edas de Algoritmos<\/strong><\/h4>\n<p>Revisar y probar los sistemas de forma continua. Se deben realizar <strong>pruebas de equidad (fairness tests)<\/strong> antes de lanzar un producto.<\/p>\n<h4>4. <strong>Explicabilidad y Transparencia<\/strong><\/h4>\n<p>Es fundamental que los algoritmos no sean &#8220;cajas negras&#8221;. Los usuarios y reguladores deben entender c\u00f3mo y por qu\u00e9 se toman decisiones.<\/p>\n<h4>5. <strong>Normativas y \u00c9tica<\/strong><\/h4>\n<p>Cada vez m\u00e1s gobiernos y organizaciones exigen <strong>normas \u00e9ticas<\/strong> para el desarrollo de IA, garantizando que los sistemas no generen discriminaci\u00f3n.<\/p>\n<hr \/>\n<h3>Curiosidades sobre los Sesgos Inform\u00e1ticos<\/h3>\n<ol>\n<li data-start=\"142\" data-end=\"292\">\n<p data-start=\"145\" data-end=\"292\"><strong data-start=\"145\" data-end=\"180\">GIGO (Garbage In, Garbage Out):<\/strong><br data-start=\"180\" data-end=\"183\" \/>Si alimentas un sistema con datos de mala calidad o sesgados, el resultado siempre ser\u00e1 err\u00f3neo o injusto.<\/p>\n<\/li>\n<li data-start=\"294\" data-end=\"430\">\n<p data-start=\"297\" data-end=\"430\"><strong data-start=\"297\" data-end=\"317\">Automation Bias:<\/strong><br data-start=\"317\" data-end=\"320\" \/>Las personas tienden a confiar ciegamente en las decisiones de una m\u00e1quina, incluso cuando est\u00e1 equivocada.<\/p>\n<\/li>\n<li data-start=\"432\" data-end=\"610\">\n<p data-start=\"435\" data-end=\"610\"><strong data-start=\"435\" data-end=\"492\">FAIR (Findable, Accessible, Interoperable, Reusable):<\/strong><br data-start=\"492\" data-end=\"495\" \/>Garantizar datos accesibles y reutilizables ayuda a prevenir exclusiones y sesgos en la inteligencia artificial.<\/p>\n<\/li>\n<li data-start=\"612\" data-end=\"752\">\n<p data-start=\"615\" data-end=\"752\"><strong data-start=\"615\" data-end=\"640\">Black Box Algorithms:<\/strong><br data-start=\"640\" data-end=\"643\" \/>Los algoritmos &#8220;caja negra&#8221; toman decisiones que ni sus creadores entienden, dificultando detectar sesgos.<\/p>\n<\/li>\n<li data-start=\"754\" data-end=\"868\">\n<p data-start=\"757\" data-end=\"868\"><strong data-start=\"757\" data-end=\"771\">Data Skew:<\/strong><br data-start=\"771\" data-end=\"774\" \/>Cuando los datos de entrenamiento est\u00e1n desbalanceados, el modelo discrimina sin intenci\u00f3n.<\/p>\n<\/li>\n<li data-start=\"870\" data-end=\"1010\">\n<p data-start=\"873\" data-end=\"1010\"><strong data-start=\"873\" data-end=\"901\">Confirmation Bias en IA:<\/strong><br data-start=\"901\" data-end=\"904\" \/>Los desarrolladores pueden introducir su propio sesgo al buscar resultados que confirmen sus hip\u00f3tesis.<\/p>\n<\/li>\n<li data-start=\"1012\" data-end=\"1134\">\n<p data-start=\"1015\" data-end=\"1134\"><strong data-start=\"1015\" data-end=\"1033\">Feedback Loop:<\/strong><br data-start=\"1033\" data-end=\"1036\" \/>Un sistema sesgado puede retroalimentarse y reforzar los errores o discriminaciones originales.<\/p>\n<\/li>\n<li data-start=\"1136\" data-end=\"1298\">\n<p data-start=\"1139\" data-end=\"1298\"><strong data-start=\"1139\" data-end=\"1164\">Explainable AI (XAI):<\/strong><br data-start=\"1164\" data-end=\"1167\" \/>La inteligencia artificial explicable permite entender c\u00f3mo y por qu\u00e9 el sistema tom\u00f3 una decisi\u00f3n, facilitando detectar sesgos.<\/p>\n<\/li>\n<li data-start=\"1300\" data-end=\"1460\">\n<p data-start=\"1303\" data-end=\"1460\"><strong data-start=\"1303\" data-end=\"1330\">Bias-Variance Tradeoff:<\/strong><br data-start=\"1330\" data-end=\"1333\" \/>Los modelos deben equilibrar la simplicidad (bias) y la precisi\u00f3n (variance) para evitar errores sistem\u00e1ticos o sobreajuste.<\/p>\n<\/li>\n<li data-start=\"1462\" data-end=\"1617\">\n<p data-start=\"1466\" data-end=\"1617\"><strong data-start=\"1466\" data-end=\"1488\">Redlining Digital:<\/strong><br data-start=\"1488\" data-end=\"1491\" \/>Algunos algoritmos discriminan digitalmente seg\u00fan la ubicaci\u00f3n o el perfil social del usuario, sin justificaci\u00f3n objetiva.<\/p>\n<\/li>\n<li data-start=\"1619\" data-end=\"1765\">\n<p data-start=\"1623\" data-end=\"1765\"><strong data-start=\"1623\" data-end=\"1654\">Zebra Problem en IA M\u00e9dica:<\/strong><br data-start=\"1654\" data-end=\"1657\" \/>Los sistemas de IA pueden exagerar la importancia de casos raros, confundiendo los diagn\u00f3sticos m\u00e9dicos.<\/p>\n<\/li>\n<li data-start=\"1767\" data-end=\"1926\">\n<p data-start=\"1771\" data-end=\"1926\"><strong data-start=\"1771\" data-end=\"1789\">ACID vs. BASE:<\/strong><br data-start=\"1789\" data-end=\"1792\" \/>La consistencia de datos (ACID) previene errores y sesgos, mientras que los sistemas BASE sacrifican precisi\u00f3n por disponibilidad.<\/p>\n<\/li>\n<li data-start=\"1928\" data-end=\"2104\">\n<p data-start=\"1932\" data-end=\"2104\"><strong data-start=\"1932\" data-end=\"1969\">Overfitting y Sesgo de Precisi\u00f3n:<\/strong><br data-start=\"1969\" data-end=\"1972\" \/>Un modelo que memoriza demasiado los datos de entrenamiento parece preciso, pero falla en la pr\u00e1ctica al ser poco generalizable.<\/p>\n<\/li>\n<li data-start=\"2106\" data-end=\"2256\">\n<p data-start=\"2110\" data-end=\"2256\"><strong data-start=\"2110\" data-end=\"2156\">Pareto Principle (80\/20) y Datos Sesgados:<\/strong><br data-start=\"2156\" data-end=\"2159\" \/>Si el peque\u00f1o grupo de datos m\u00e1s influyente est\u00e1 sesgado, puede distorsionar todo el sistema.<\/p>\n<\/li>\n<li data-start=\"2258\" data-end=\"2445\">\n<p data-start=\"2262\" data-end=\"2445\"><strong data-start=\"2262\" data-end=\"2333\">FATML (Fairness, Accountability, Transparency in Machine Learning):<\/strong><br data-start=\"2333\" data-end=\"2336\" \/>Promueve el desarrollo de IA justa, responsable y transparente para evitar discriminaciones algor\u00edtmicas.<\/p>\n<\/li>\n<\/ol>\n<hr \/>\n<h3>Conclusi\u00f3n<\/h3>\n<p>Los <strong>sesgos inform\u00e1ticos<\/strong> son un reto del presente y del futuro. La tecnolog\u00eda debe dise\u00f1arse con consciencia, diversidad y responsabilidad. Aunque los algoritmos no tienen intenci\u00f3n, <strong>reflejan los valores y errores de quienes los crean y entrenan<\/strong>.<\/p>\n<p>La clave est\u00e1 en <strong>educar a los desarrolladores, supervisar los sistemas y mantener el enfoque \u00e9tico<\/strong> en cada etapa del desarrollo tecnol\u00f3gico.<\/p>\n<hr \/>\n<p>&nbsp;<\/p>\n","protected":false},"excerpt":{"rendered":"<p>En la era digital, confiamos en la tecnolog\u00eda para tomar decisiones que antes eran solo humanas: reclutar personal, diagnosticar enfermedades, conceder cr\u00e9ditos, o filtrar informaci\u00f3n en redes sociales. Pensamos que los sistemas inform\u00e1ticos son precisos y objetivos, pero la tecnolog\u00eda no es neutral. Los sesgos inform\u00e1ticos aparecen cuando los programas, datos o algoritmos generan resultados parciales o discriminatorios. Esta entrada te ofrece un recorrido pr\u00e1ctico y reflexivo sobre c\u00f3mo surgen estos sesgos, d\u00f3nde los encontramos (desde bases de datos hasta la inteligencia artificial) y c\u00f3mo podemos enfrentarlos. &nbsp;<\/p>\n","protected":false},"author":1,"featured_media":6154,"comment_status":"closed","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[1415],"tags":[],"class_list":["post-14409","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-sin-categoria-es"],"_links":{"self":[{"href":"https:\/\/www.palentino.es\/blog\/wp-json\/wp\/v2\/posts\/14409","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.palentino.es\/blog\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.palentino.es\/blog\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.palentino.es\/blog\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/www.palentino.es\/blog\/wp-json\/wp\/v2\/comments?post=14409"}],"version-history":[{"count":4,"href":"https:\/\/www.palentino.es\/blog\/wp-json\/wp\/v2\/posts\/14409\/revisions"}],"predecessor-version":[{"id":14413,"href":"https:\/\/www.palentino.es\/blog\/wp-json\/wp\/v2\/posts\/14409\/revisions\/14413"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.palentino.es\/blog\/wp-json\/wp\/v2\/media\/6154"}],"wp:attachment":[{"href":"https:\/\/www.palentino.es\/blog\/wp-json\/wp\/v2\/media?parent=14409"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.palentino.es\/blog\/wp-json\/wp\/v2\/categories?post=14409"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.palentino.es\/blog\/wp-json\/wp\/v2\/tags?post=14409"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}