Ciberseguridad aplicada a la Robótica

Los robots y los sistemas autónomos en general sufrirán problemas de ciberseguridad similares a los que las computadoras han enfrentado durante décadas.

Esto no solo es preocupante para tareas críticas como las realizadas por robots quirúrgicos o militares, sino también para robots domésticos como aspiradoras o para robots de teleconferencia que comprometen la privacidad y seguridad de sus propietarios.

¿Qué pasará si estos robots son pirateados?

Nos centraremos en dos casos particulares: seguridad y privacidad. Por un lado, los problemas de seguridad cubren las conciencias asociadas con la integridad física de los individuos. Las personas se preocupan por los problemas que los robots pueden causarles a ellas mismas o sus pertenencias. Esta preocupación es mayor en caso de que los robots sean pirateados.

Por otro lado, los problemas de privacidad asociados con los robots se están extendiendo en muchas áreas. Hay una amplia gama de robots de servicio que se han introducido en hogares y espacios comerciales. Se pueden usar como plataformas de teleconferencia móviles, asistentes de bienvenida, mascotas virtuales, juguetes, etc.

Si estos robots fueran pirateados, podrían proporcionar mucha información privada sobre los usuarios que interactúan con el robot o que simplemente pasaron por allí. Esta información puede ir desde datos generales (edad, tamaño, etc.), imágenes privadas, información de rutina del usuario, económica, etc., lo que abre una nueva etapa para la ciberseguridad de los sistemas robóticos.

Vamos a realizar aquí un análisis sobre los ataques de ciberseguridad asociados con los robots de servicio y, como resultado, clasificaremos los riesgos que enfrentan los usuarios al usar robots de servicio, distinguiendo entre hilos de seguridad y protección.

Pero antes conoceremos en qué consiste la robótica, los tipos de robots y sus usos principales.

¿Qué es la robótica?

La robótica se considera la unión de la ingeniería, la ciencia y la tecnología para diseñar máquinas, llamadas robots, que sustituyen (o copian) los actos humanos. La cultura pop siempre ha estado fascinada con los robots. R2-D2. Optimus Prime. WALL-E.

Los robots están ganando capacidades intelectuales y mecánicas que hacen que una máquina similar a R2-D2 sea posible en el futuro.

A medida que avanza la tecnología, también lo hace el alcance de lo que se considera robótica.

En 2005, el 90% de todos los robots se podían encontrar ensamblando automóviles en fábricas de automóviles. Estos robots consisten principalmente en brazos mecánicos encargados de soldar o atornillar ciertas partes de un automóvil.

Hoy, vemos una definición evolucionada y ampliada de la robótica que incluye el desarrollo, la creación y el uso de bots que exploran las condiciones más duras de la Tierra , robots que ayudan a las fuerzas del orden público e incluso robots que ayudan en casi todas las facetas de la atención médica.

Si bien el mundo general de la robótica se está expandiendo, un robot tiene algunas características consistentes:

  • Todos los robots están formados por una construcción mecánica. El carácter mecánico del robot hace que pueda realizar tareas en el ámbito para el que se ha creado.
  • Precisan elementos eléctricos que nutran y controlen la maquinaria. Principalmente, necesitan una corriente eléctrica (una batería, por ejemplo) para alimentarles.
  • Contienen al menos algún nivel de programación informática. Sin un conjunto de código que le diga qué hacer, un robot sería simplemente otra pieza de maquinaria simple. El robot puede saber cuándo y cómo realizar una tarea mediante un programa informático insertado.

La industria de la robótica todavía es relativamente joven, pero ya ha hecho grandes avances. Desde las profundidades más profundas de nuestros océanos hasta las alturas más altas del espacio exterior, se pueden encontrar robots que realizan tareas que los humanos no podían soñar.

Tipos de robots

Los robots actuales pueden ser de cualquier forma y tamaño para realizar de manera eficaz la tarea para la que se han diseñado. Desde el «RoboBee» de 0.2 milímetros de largo hasta el buque de transporte robótico de 200 metros de largo «Vindskip», están surgiendo robots para llevar a cabo tareas que los humanos simplemente no pueden.

En general, hay cinco tipos de robots:

Robots preprogramados

Los robots preprogramados actúan en un entorno controlado en el que llevan a cabo tareas simples y monótonas.

Un ejemplo de un robot preprogramado sería un brazo mecánico en una línea de montaje automotriz. El brazo cumple una función: soldar una puerta, insertar una cierta parte en el motor, etc., y su trabajo es realizar esa tarea por más tiempo, más rápido y más eficientemente que un humano.

Robots humanoides

Los robots humanoides son robots que parecen humanos e imitan su comportamiento. Estos robots suelen realizar actividades similares a las de los humanos (como correr, saltar y transportar objetos), y a veces están diseñados para parecerse a nosotros, incluso con rostros y expresiones humanas.

Dos de los ejemplos más destacados de robots humanoides son Sophia de Hanson Robotics y Atlas de Boston Dynamics.

Robots Autónomos

Los robots autónomos actúan con independencia de los operadores humanos. Estos robots generalmente están diseñados para llevar a cabo tareas en entornos abiertos que no requieren supervisión humana.

Un ejemplo de robot autónomo sería la aspiradora Roomba, que utiliza sensores para recorrer libremente una casa.

Robots Teleoperados

Los robots teleoperados son robots mecánicos controlados por humanos. Estos robots generalmente funcionan en condiciones geográficas extremas, clima, circunstancias, etc.

Ejemplos de este tipo de robots son los submarinos controlados por humanos usados para arreglar fugas de tuberías submarinas durante un derrame de petróleo de BP o drones usados para localizar minas terrestres en un campo de batalla.

Robots aumentados

Los robots de aumento mejoran las capacidades humanas actuales o reemplazan las capacidades que un humano puede haber perdido.

Algunos ejemplos de robots aumentados son prótesis robóticas o exoesqueletos utilizados para levantar pesas pesadas.

Usos de la robótica

La robótica se utiliza actualmente en los siguientes sectores:

Fabricación

La industria manufacturera es probablemente el usuario de robots más antiguo y conocido. Estos robots y bots que trabajan junto a los humanos prueban y ensamblan productos eficazmente, como automóviles y equipos industriales. En la actualidad se considera que existen más de tres millones de robots industriales en uso.

Logística

Los robots de envío, manipulación y control de calidad se están convirtiendo en una herramienta imprescindible para la mayoría de los minoristas y las empresas de logística.

Ahora queremos que nuestros paquetes lleguen cuanto antes. Por eso las empresas de logística utilizan robots en sus almacenes, y en la carretera, para conseguir una mayor eficiencia del tiempo.

También existen robots que cogen los artículos de las estanterías, los transportan por el almacén y los empaquetan. Además, un aumento en los robots de última milla (robots que entregarán de manera autónoma su paquete a su puerta) aseguran que tendrá un encuentro cara a cara con un robot logístico en el futuro cercano.

Casa

Ya no es ciencia ficción. En muchas casas hay robots que ayudan con las tareas domésticas, nos recuerdan horarios o entretienen a nuestros hijos.

El ejemplo más conocido de robots domésticos es la aspiradora autónoma Roomba. Además, se ha producido una evolución de los robots para realizar cualquier tarea, desde cortar el césped del jardín hasta limpiar la piscina.

Viajes

¿Existe algo más parecido a la ciencia ficción que los vehículos autónomos? Estos autos autónomos ya no son solo imaginación.

Una combinación de ciencia de datos y robótica, los vehículos autónomos están arrasando con el mundo. Los fabricantes de automóviles, como Tesla, Ford, Waymo, Volkswagen y BMW, están trabajando en la próxima ola de viajes que nos permitirá sentarnos, relajarnos y disfrutar del viaje. Las compañías de viajes compartidos Uber y Lyft también están desarrollando vehículos autónomos de viaje compartido que no requieren humanos para operar el vehículo.

Cuidado de la salud

Los robots han conseguido efectuar importantes avances en el sector de la salud. Hoy en día se utilizan en casi todos los aspectos de la atención médica, desde cirugías asistidas por robot hasta robots que ayudan a los humanos a recuperarse de una lesión mediante fisioterapia.

Ejemplos de robots que trabajan en el cuidado de la salud son los asistentes de atención médica de Toyota, que ayudan a las personas a recuperar la capacidad de caminar, y «TUG», un robot diseñado para pasear de manera autónoma por un hospital y entregar todo, desde medicamentos hasta ropa de cama limpia.

Amenazas de ciberseguridad de robots

Antes de analizar en detalle los riesgos generados por los robots comprometidos, es necesario modelar los hilos que definen el escenario de ciberseguridad para los robots.

Proponemos un modelo de visión general definida del Proyecto de Seguridad de Aplicaciones Web Abiertas (OWASP), identificación de riesgos y diferentes definiciones de seguridad ciberfísica en sistemas ciberfísicos.

Los hilos de seguridad pueden tener tres orígenes principales, que son los siguientes:

  • Natural, asociado a desastres naturales.
  • Accidental, generado por el hecho de que no hay situaciones perfectas como las planificadas en los laboratorios.
  • Ataque, aquellos eventos generados por usuarios externos con el objetivo de obtener control sobre un recurso del robot.

Es necesario enfrentar estos elementos de antemano para desplegar un robot en un entorno real y ejecutar un conjunto de planes de contingencia para manejar estas situaciones.

Estos planes deben considerar los tres posibles objetivos identificados, es decir, el robot en sí, los datos administrados por el robot y la combinación de ambos componentes.

Primero, las amenazas cambian el modo de operación normal de manera física. Los hilos podrían haberse generado por condiciones naturales, situaciones accidentales o ataques y podrían causar cinco impactos diferentes en el robot, que son los siguientes:

  • Destrucción, lo que implica no operatividad.
  • Daño parcial, que implica un mal funcionamiento del robot.
  • Interrupción, implica la interrupción de un solo, varios o todos los componentes del robot.
  • Degradación, lo que significa que el alcance o la capacidad de cualquier componente del robot disminuye a lo largo del tiempo.
  • Comportamiento inesperado, que podría considerarse como una degradación de todo el robot, no solo un componente.

En segundo lugar, las amenazas cibernéticas pueden interferir en el funcionamiento normal de manera virtual, es decir, puede cambiarse la información recopilada, almacenada o transmitida por el robot.

El impacto causado por las amenazas cibernéticas puede ser:

  • Problemas asociados a los fabricantes de robots o desarrolladores de código abierto (controladores y software central).
  • Problemas asociados a soluciones de terceros (bibliotecas) que necesitan las aplicaciones de fabricantes de robots.
  • Vulnerabilidades generales asociadas con los componentes de software generales del robot.

Los problemas de seguridad del software pueden presentarse intencionalmente o no en los componentes de software del robot. Se pueden clasificar en fallos de software, problemas de configuración de seguridad y uso indebido de las características del software.

Análisis de riesgos

El análisis de riesgos de seguridad generalmente se basa en dos factores: la probabilidad de un ataque exitoso contra un activo y la consecuencia de tal ataque.

Las descripciones generales de seguridad de la información clasifican las amenazas cibernéticas en tres campos: confidencialidad, integridad y disponibilidad de información. Las versiones extendidas para dominios ciberfísicos agregan privacidad, autenticación, autorización, auditabilidad y no repudio.

Además de esto, también es necesario agregar problemas de seguridad asociados con los daños físicos causados ​​por un ataque cibernético.

Identificamos tres grupos de usuarios finales de robots de servicio, como usuarios domésticos, comerciales y organizaciones de alto nivel.

Los riesgos para los usuarios domésticos se pueden clasificar como:

  • Riesgos económicos, que pueden cuantificarse como la cantidad de dinero requerida para reparar elementos del robot o el medio ambiente después de un ataque.
  • Físicos, si ocurre algún daño a los humanos.
  • Psicológicos, estos riesgos incluyen la pérdida de elementos a los que se puede vincular a las personas o la difusión de información privada.

Los riesgos comerciales están relacionados con:

  • Propiedad intelectual, a la que pueden acceder los competidores.
  • Reputación, que podría ser dañada por la publicación del ataque.
  • Impacto económico, incluida la reparación de activos dañados y la pérdida de ganancias causada por los daños y su reparación.
  • Problemas regulatorios, si se revela información privada sobre clientes o transacciones.

Administración pública (y grandes corporaciones):

  • Riesgos políticos, asociados con la pérdida de confianza de los ciudadanos, no solo en las instituciones sino también en el uso de robots en general.
  • Daños económicos.
  • Problemas de seguridad nacional, incluida la revelación de secretos o daños a activos estratégicos.

Riesgos de privacidad

Los robots pueden ir a lugares que los humanos no pueden ir, ver cosas que los humanos no pueden ver y hacer cosas que los humanos no pueden hacer.

Estas características los han convertido en herramientas útiles en muchos dominios como exploración espacial, misiones de rescate, manipulación de materiales peligrosos, etc. Su fiabilidad y versatilidad también los han hecho muy comunes en entornos industriales, como la fabricación, la logística, etc.

El aumento de la potencia informática y la reducción de los precios de los sensores han hecho posible la extensión de robots a otros dominios. Están entrando en la vida cotidiana de las personas como robots domésticos, automóviles autónomos o asistentes de bienvenida en negocios minoristas.

No es difícil imaginar por qué los robots de servicio plantean problemas de privacidad. Por definición, los robots están equipados con la capacidad de detectar, procesar y registrar el mundo que los rodea.

Estas inquietudes sobre los problemas de privacidad pueden ir tan lejos como hacer herramientas de juguetes robóticos para pedófilos. Debido a sus cámaras, micrófonos y capacidades móviles incorporados, que pueden controlarse de forma remota, los juguetes de robots móviles con Wi-Fi pueden representar un riesgo para las familias con niños, ya que pueden ser explotado por los pedófilos en línea.

Los robots sociales generalmente usan cámaras para identificar a los usuarios y tratar de perfilarlos (sexo, edad, etc.) y también tratan de descubrir sus intereses para entretener a los usuarios con fines comerciales en los asistentes de ventas. Toda esta información es información privada y cualquier ataque al robot podría comprometerla.

Tipos de robots sociales con respecto a su uso

Distinguimos dos tipos de robots sociales de acuerdo con el número de usuarios potenciales que interactúan con ellos.

Primero, están diseñados para uso personal. Hay dos tipos principales de robots personales: robots de asistencia social no móviles, generalmente diseñados como asistentes domésticos. La relación de interacción de estos robots es pequeña, solo el propietario, sus amigos y su familia.

El segundo grupo está compuesto por plataformas diseñadas para locales comerciales. Estos robots suelen ser más grandes que los del primer grupo y también la proporción de interacción en este tipo de robots es mayor porque estos robots interactúan con los visitantes / clientes del lugar.

El tipo de problemas de privacidad es diferente entre los dos grupos.

Los robots para entornos domésticos, podrían estar escuchando conversaciones o tomando fotos de información personal, o incluso mientras te cambias de ropa … Los robots desplegados en espacios públicos podrían aprender cuáles son tus intereses, grabar conversaciones entre banqueros y clientes, clonar tus métodos de identificación, hacer estudios de mercado sobre tus preferencias, etc.

Riesgos de privacidad asociados con sensores

Suelen distinguirse dos tipos básicos de sensores robóticos:

  • sensores exceptivos (es decir, láser, sensores de alcance, cámaras, etc.), que proporcionan información sobre el espacio de trabajo del robot, y
  • sensores propioceptivos (es decir, codificadores de rueda, estado de la batería), que proporcionan datos sobre el robot mismo.

La clasificación de riesgos de privacidad depende de la gravedad de la fuga de información para los diferentes tipos de sensores. La integración de datos de varios sensores es el tipo de sensor más peligroso porque puede revelar información completa sobre actividades privadas de personas, como su ubicación, imágenes, etc.

En un nivel inferior inmediato, son imágenes y conversaciones de personas, que son las fugas más sensibles en los sensores exteroceptivos.

Los sensores que miden los rangos (láser, ultrasonidos, infrarrojos, etc.) son menos significativos desde el punto de vista de la privacidad, aunque se puede extraer cierta información privada de las lecturas del rango.

En resumen, los sensores exteroceptivos son los más sensibles desde el punto de vista de la privacidad si fueran pirateados. El tipo de información que recopilan estos sensores significa la relevancia del problema en términos de riesgos de privacidad si el robot se ve comprometido.

La información de los sensores propioceptivos a veces se considera menos sensible, sin embargo, se puede usar para obtener información sobre el estado actual de los robots, que podría usarse en actividades maliciosas.

Otra cuestión con respecto a los sensores es aclarar dónde se realiza el procesamiento de datos del sensor. Los sensores proporcionan datos en bruto, imágenes, por ejemplo. Estos datos deben transformarse en información: detectar una cara, identificarla o clasificarla (edad, raza, etc.).

Los datos se envían a computadoras remotas, se procesan allí y los resultados se envían de vuelta al robot. Esto puede ser ilegal en algunas jurisdicciones, pero incluso siendo legales, estas prácticas plantean muchos riesgos en la comunicación (los datos y la información pueden ser interceptados), y también sobre el almacenamiento de esta información y su uso por parte de fabricante o terceros.

Problemas de seguridad

Los ataques cibernéticos a los robots también plantean problemas de seguridad. Proponemos clasificar los problemas de seguridad asociados con los robots que atienden el comportamiento de los robots observados por sus usuarios.

Distinguimos dos comportamientos básicos: controlados o no controlados, es decir, si el robot tiene un comportamiento receptivo o si actúa de forma aleatoria.

El comportamiento «normal» es el comportamiento esperado del robot de acuerdo con las especificaciones del fabricante y los comandos del usuario. Por «anormal», queremos decir que el robot no funciona como se esperaba pero no está bajo ataque.

Si se controla el comportamiento observado del robot, es decir, respondiendo a los estímulos, el problema principal es que el robot no podrá cumplir su tarea. Si el robot no responde, pueden ocurrir daños más graves. En ambos casos, una solución habitual es reiniciar el robot utilizando el botón físico de reinicio obligatorio.

Es difícil para un observador externo saber qué está sucediendo dentro del robot. Los observadores pueden verificar si el robot está «controlado», es decir, si responde a los estímulos o no. Si es así, pero está haciendo una tarea diferente a la esperada, esto podría ser una indicación de un ataque. Pero incluso si el robot funciona como se esperaba, podría haberse visto comprometido y el atacante podría estar escondido bajo el comportamiento normal del robot.

Proponemos una clasificación de los riesgos de seguridad para los robots en función del tamaño del robot:

  • Riesgos de bajo nivel: robots que pueden realizar los usuarios. Esto significa que los robots que interactúan con niños o personas discapacitadas deben ser lo suficientemente pequeños como para ser considerados de bajo riesgo.
  • Riesgos de nivel medio: robots que no pueden ser transportados por los usuarios, pero cuyo tamaño es más pequeño que el de sus usuarios. Esto significa que los usuarios no pueden manejar el robot, pero no se sienten intimidados por ellos.
  • Riesgos de alto nivel: robots que son más grandes que los usuarios en cualquiera de las dimensiones del usuario, como el tamaño, la altura y la velocidad.

Ejemplos de ataques

Hay diferentes formas de atacar a un robot, y diferentes niveles en la gravedad de las intrusiones.

Los «ataques furtivos» se pueden implementar de diferentes maneras. En este tipo de ataque, los atacantes básicamente intentan modificar las lecturas de los sensores del robot para inducir un error. Esto se puede lograr modificando el entorno o interfiriendo con los sensores.

Otro ataque bien conocido es el «ataque de repetición». Si los atacantes pueden interceptar las comunicaciones del sistema, pueden reproducir paquetes capturados, incluso si están encriptados. Si el protocolo de comunicación no está preparado para este tipo de ataque, el sistema considerará estos paquetes reproducidos como legítimos y cometerá errores en las decisiones.

Existen otros tipos de ataques a robots que no están relacionados con sus sensores. Pueden dirigirse a los elementos cognitivos del sistema de control.

Por ejemplo, en un robot médico, si se proporciona información falsa al sistema sobre la condición del paciente, el robot podría tomar decisiones equivocadas que podrían causar daños graves. Este tipo de «Inyección de datos falsos» también podría usarse en otro tipo de robots, por ejemplo, proporcionando mapas falsos a un robot móvil para provocar una colisión.

La denegación de servicio (DoS) es otro tipo clásico de ataque. Los ataques DoS en robótica generalmente significan que el robot deja de funcionar, por lo que los robots no sufren daños, ni los robots dañan a las personas ni a su entorno. Los daños se deben a la falta del servicio prestado por el robot. La gravedad del ataque depende de la importancia del servicio que se proporcionará.

Un caso peor surge cuando el robot no solo se detiene sino que es secuestrado. Esto se conoce como ciberseguridad como un «acceso remoto». En esta situación, los robots plantean problemas de seguridad, no solo de privacidad.

Desarrollo seguro

La mayoría de los problemas de ciberseguridad en robótica se deben a la falta de conciencia entre los desarrolladores de software para robots. Los robots de control de software deben estar protegidos, lo que significa que las metodologías, las herramientas y los marcos de desarrollo utilizados deben estar protegidos.

Diferentes marcos de desarrollo robótico (RDF) han aparecido en los últimos años. Los RDF simplifican y aceleran el desarrollo de aplicaciones robóticas porque facilitan la portabilidad de las aplicaciones entre diferentes robots, favorecen la reutilización del código y reducen el coste de los nuevos desarrollos.

Las contribuciones proporcionadas por los RDF también han traído fallos de seguridad al ecosistema robótico.

Por ejemplo, compartir código sin las precauciones apropiadas abre una puerta para infecciones de malware. De la misma manera, el uso de computación distribuida significa que los datos se transfieren entre diferentes computadoras, en muchos casos usando infraestructura pública (redes públicas de Wi-Fi) donde pueden ocurrir diferentes tipos de ataques.

En este caso, recomendamos el uso de metodologías estándar y buenas prácticas comunes en otros entornos de desarrollo de software.