Durante casi un año han aparecido informes sobre chatbots de IA que llevan a las personas a autolesionarse, sufrir delirios, ser hospitalizadas, detenidas e incluso suicidarse. Las familias de los afectados han pedido salvaguardias, pero las empresas de IA han tardado en responder. OpenAI, mencionada con frecuencia en estos casos, ha ofrecido garantías vagas, hasta ahora.
En una reciente entrada de blog, OpenAI reconoció ciertos fallos y reveló que ahora analiza activamente las conversaciones de los usuarios en busca de contenido nocivo. Los chats potencialmente peligrosos se remiten a revisores humanos y, en algunos casos, se señalan a las fuerzas de seguridad.
La empresa explicó que si una conversación sugiere planes para dañar a otros, puede ser dirigida a equipos de revisión especializados que pueden tomar medidas, incluida la prohibición de cuentas. Si los revisores identifican un riesgo inminente de daño físico grave, el caso puede denunciarse a la policía. Sin embargo, OpenAI aclara que los casos de autolesiones no se remiten actualmente a la policía, alegando la naturaleza privada de las interacciones de los usuarios.
Este nuevo enfoque plantea interrogantes. Las políticas de OpenAI prohíben a los usuarios promover el suicidio, crear armas, causar daños o violar los sistemas de seguridad. Sin embargo, el umbral exacto para escalar los chats sigue sin estar claro, lo que deja ambigüedad sobre lo que podría desencadenar una revisión o derivación humana.
Los críticos señalan contradicciones en los mensajes de OpenAI. Mientras que la empresa afirma dar prioridad a la privacidad del usuario, incluso luchando en los tribunales para evitar la entrega de los chats de los usuarios a editores como el New York Times, al mismo tiempo admite supervisar las conversaciones y potencialmente compartirlas con las autoridades.
La tensión refleja un dilema más amplio: OpenAI se enfrenta a reacciones negativas por resultados perjudiciales relacionados con su tecnología, pero carece de una forma clara de salvaguardar a los usuarios sin socavar sus promesas de privacidad. El consejero delegado Sam Altman ya ha advertido de que utilizar ChatGPT como terapeuta o abogado no ofrece confidencialidad, sobre todo porque las batallas legales podrían obligar a la empresa a compartir los registros de chat en los tribunales.
Atrapada entre la seguridad pública, la privacidad y las crecientes demandas judiciales, OpenAI está sometida a una presión cada vez mayor para conciliar sus promesas con sus prácticas.
Desarrollado por Markelitics.com
Navegue por los mercados comerciales y descubra un mundo de oportunidades.
Bullwaves es un nombre comercial de Equitex Capital Limited (nº de registro 8434948-1), sociedad autorizada y regulada por la Autoridad de Servicios Financieros (la "FSA", nº de licencia SD185) con domicilio legal en CT House, oficina nº 9A, Providence, Mahe, Seychelles y domicilio físico en Office nº Al9C, Providence Complex, Providence, Mahe, Seychelles.
ETX Services Limited con número de registro de empresa HE455407, una empresa registrada en Chipre con domicilio social en Archiepiskopou Makariou lll 160, 3026 Limassol es designada como Representante Independiente y Distribuidor.
ETX Services Ltd no es la Entidad con Licencia en la UE sino que sólo actúa como entidad de Servicio para Equitex Capital Ltd.
Descargo de responsabilidad sobre riesgos:
Los derivados extrabursátiles son instrumentos complejos y conllevan un alto riesgo de perder su capital inicial rápidamente debido al apalancamiento. Debe plantearse si entiende cómo funcionan los derivados extrabursátiles y si puede permitirse asumir el alto nivel de riesgo para su capital. La inversión en derivados extrabursátiles conlleva riesgos significativos y no es adecuada para todos los inversores.
Al adquirir nuestros productos derivados, usted no tiene ningún derecho ni obligación sobre el activo financiero subyacente. Equitex no es un asesor financiero y todos los servicios se prestan únicamente sobre la base de la ejecución. La información es de carácter general y no tiene en cuenta sus objetivos financieros, necesidades o circunstancias personales. En nuestro sitio web encontrará documentos legales importantes relacionados con nuestros productos y servicios. Usted debe leer y comprender estos documentos antes de solicitar cualquier producto o servicio de Bullwaves y obtener asesoramiento profesional independiente cuando sea necesario.
Restricciones regionales:
La información o los servicios descritos en este sitio web no están dirigidos ni se ofrecen a residentes de Bélgica, Israel, Irán, Maldivas, Corea del Norte, Estados Unidos, Afganistán, Bielorrusia, República Centroafricana, China, Irán, Rusia, Cuba, Libia, Nicaragua, Autoridad Palestina/Gaza/Cisjordania, Venezuela y a jurisdicciones incluidas en las listas de sanciones del GAFI y de la UE/ONU o a cualquier otra persona en cualquier jurisdicción en la que dicha distribución o uso sea contrario a las leyes o normativas locales. Para más información, póngase en contacto con nuestro servicio de asistencia. Los clientes que se hayan dado de alta a través de www.bullwaves.com pueden ponerse en contacto con nuestro equipo de asistencia en support@bullwaves.com.For. Para reclamaciones, envíenos un correo electrónico a compliance@bullwaves.com
.