---
title: "Hackeos de ChatGPT preocupan a la ciberseguridad por su modelo de lenguaje"
description: "El hackeo del ‘chatbot’ consiste en introducir una serie de entradas mediante frases cuidadosamente compuestas que terminen por levantar los filtros para que ChatGPT"
canonical: "https://www.metro.pr/estilo-vida/2023/04/17/hackeos-de-chatgpt-preocupan-a-la-ciberseguridad-por-su-modelo-de-lenguaje"
section: "Estilo de Vida"
author: "Europa Press"
author_url: "https://www.metro.pr/autor/europa-press"
published: "2023-04-17T18:25:17.308Z"
updated: "2023-04-17T18:25:17.784Z"
tags: ["ChatGPT", "Hackers", "Inteligencia Artificial"]
publisher: "Metro Puerto Rico"
language: "es"
---

# Hackeos de ChatGPT preocupan a la ciberseguridad por su modelo de lenguaje

_El hackeo del ‘chatbot’ consiste en introducir una serie de entradas mediante frases cuidadosamente compuestas que terminen por levantar los filtros para que ChatGPT_

Por Europa Press · Estilo de Vida · 2023-04-17T18:25:17.308Z

Los **‘chatbots’** atraen poderosamente la **atención** de otras **personas que buscan aprovechar** los **puntos débiles** que estos **sistemas de inteligencia artificial** (IA) puedan tener para que hagan cosas para las que no están diseñados o para **infectarlos con ‘malware’**.

El ‘chatbot’ de OpenAI, **ChatGPT**, **puede utilizarse para la creación de ‘malware’** a partir de su **función de apoyo** para la escritura de código, y **pese a los filtros** **de seguridad** que sus responsables han implantado, como **demostró recientemente un investigador de Forcepoint**.

![](/api/image/D2JWTR244RBTPMSFXBCMMJOMCA.jpg?w=800)

Este hecho contiene la situación contraria, que **ChatGPT también sea el objetivo de acciones maliciosas** **que buscan ‘hackearlo’**. En concreto, **sobrepasar las medidas** que se introdujeron para que las **conversaciones con los usuarios sean seguras**.

Es el caso que recogen en Wired,**donde explican la experiencia de Alex Polyakov, quien logró ‘hackear’ la última versión del modelo** de lenguaje que lo sustenta, **GPT4**, en un **par de horas** tras su lanzamiento en marzo, y ahora **tiene en su poder un ‘jailbreak’** universal que **funciona con distintos modelos** de lenguaje de gran tamaño.

La forma en que**Polyakov describe el ‘hackeo’ del ‘chatbot’** **consiste en introducir una serie de entradas** o apuntes, mediante **frases cuidadosamente compuestas**, que **terminen por levantar los filtros** para que **ChatGPT empiece a expresarse** con **lenguaje racista** o proponga actos ilegales, por ejemplo. Pero también para **permitir la inserción datos** o instrucciones maliciosos.

**OpenAI** por su parte **es consciente de los fallos** que puede haber en el **desarrollo de sus modelos** de lenguaje y por ello **anunció un programa de recompensas**, con el que **premiará con hasta 20 mil dólares** a **quienes encuentren vulnerabilidades** y **errores en sus sistemas de IA**.

La **creación de ‘malware’**, precisamente, es **uno de los primeros casos** de uso sobre los que ya han **advertido los investigadores de ciberseguridad**.

---

Contenido de Metro Puerto Rico. Versión canónica en HTML: https://www.metro.pr/estilo-vida/2023/04/17/hackeos-de-chatgpt-preocupan-a-la-ciberseguridad-por-su-modelo-de-lenguaje — al citar o enlazar, usar esa URL.