For nearly a year, reports have surfaced about AI chatbots driving people toward self-harm, delusions, hospitalization, arrests, and even suicide. Families of those affected have called for safeguards, but AI companies have been slow to respond. OpenAI, frequently mentioned in these cases, has largely issued vague assurances, until now.
In a recent blog post, OpenAI acknowledged certain failures and disclosed that it is now actively scanning user conversations for harmful content. Potentially dangerous chats are escalated to human reviewers, and in some cases, flagged to law enforcement.
The company explained that if a conversation suggests plans to harm others, it may be routed to specialized review teams who can take action, including banning accounts. If the reviewers identify an imminent risk of serious physical harm, the case may be reported to the police. However, OpenAI clarified that self-harm cases are not currently being referred to law enforcement, citing the private nature of user interactions.
This new approach raises questions. OpenAI’s policies ban users from promoting suicide, creating weapons, causing harm, or violating security systems. Yet the exact threshold for escalating chats remains unclear, leaving ambiguity about what might trigger human review or referral.
Critics point out contradictions in OpenAI’s messaging. While the company claims to prioritize user privacy, even fighting in court to avoid handing over user chats to publishers like the New York Times, it simultaneously admits to monitoring conversations and potentially sharing them with authorities.
The tension reflects a broader dilemma: OpenAI faces backlash for harmful outcomes tied to its technology but lacks a clear way to safeguard users without undermining its privacy promises. CEO Sam Altman has already warned that using ChatGPT as a therapist or lawyer does not offer confidentiality, especially as legal battles might force the company to share chat logs in court.
Caught between public safety, privacy, and mounting lawsuits, OpenAI is under increasing pressure to reconcile its promises with its practices.
Powered by Markelitics.com
Navegue por los mercados bursátiles y descubra un mundo de oportunidades.
Bullwaves es el nombre comercial de Equitex Capital Limited (número de registro 8434948-1), una empresa autorizada y regulada por la Autoridad de Servicios Financieros (la «FSA», número de licencia). SD185) con domicilio legal registrado en CT House, oficina número 9A, Providence, Mahe (Seychelles) y dirección física en la oficina núm. Al9C, Providence Complex, Providence, Mahe, Seychelles.
ETX Services Limited, con el número de registro mercantil HE455407, una empresa registrada en Chipre con domicilio social en Archiepiskopou Makariou lll 160, 3026 Limassol, es nombrada representante y distribuidora independiente.
ETX Services Ltd no es la entidad autorizada en la UE, sino que solo actúa como la entidad de servicio para Equitex Capital Ltd.
Exención de responsabilidad por riesgos:
Los derivados extrabursátiles son instrumentos complejos y conllevan un alto riesgo de perder su capital inicial rápidamente debido al apalancamiento. Debe considerar si comprende cómo funcionan los derivados extrabursátiles y si puede permitirse asumir el alto nivel de riesgo para su capital. Invertir en derivados extrabursátiles conlleva riesgos importantes y no es adecuado para todos los inversores.
Al adquirir nuestros productos derivados, no tiene ningún derecho, derecho u obligación sobre el activo financiero subyacente. Equitex no es un asesor financiero y todos los servicios se prestan únicamente en función de la ejecución. La información es únicamente de carácter general y no tiene en cuenta sus objetivos financieros, necesidades o circunstancias personales. Los documentos legales importantes relacionados con nuestros productos y servicios están disponibles en nuestro sitio web. Debe leer y comprender estos documentos antes de solicitar cualquier producto o servicio de Bullwaves y obtener asesoramiento profesional independiente según sea necesario.
Restricciones regionales:
La información o los servicios descritos en este sitio web no están dirigidos ni se ofrecen a residentes de Bélgica, Israel, Irán, Maldivas, Corea del Norte, Estados Unidos, Afganistán, Bielorrusia, República Centroafricana, China, Irán, Rusia, Cuba, Libia, Nicaragua, Autoridad Palestina/Gaza/Cisjordania, Venezuela y a las jurisdicciones incluidas en las listas de sanciones del GAFI y la UE/ONU ni a ninguna otra persona en cualquier jurisdicción donde dicha distribución o uso sea contrario a las leyes o regulaciones locales. Para obtener más información, póngase en contacto con nuestro servicio de asistencia. Clientes que se incorporaron a través de www.bullwaves.com puede ponerse en contacto con nuestro equipo de soporte en support@bullwaves.com. Para quejas, envíenos un correo electrónico a compliance@bullwaves.com
Para quejas, envíenos un correo electrónico a compliance@bullwaves.com