El nuevo chatbot de Deepseek creado en China está creando abrumador porque es capaz de rivalizar con Opgai y algunos de los modelos más avanzados en los EE. UU. A una fracción del costo, pero el tema de seguridad no debe dejarse fuera.
La IA en cuestión está disponible a partir del 20 de enero, se comporta en muchos casos de manera similar al chatbot de Openai, Aunque en pruebas cortas hemos realizado, se indicó varias información inventada por un plan saludable.
En cualquier caso, esto fue suficiente para reducir la lista de valores de las principales empresas del sector, incluido Nvidia que en un día perdió más del 15% al quemar miles de millones de capitalización en unas pocas horas.
De hecho, DefeSeek cuestionó las convicciones sobre la inteligencia artificial, destacando la capacidad de los chinos para desarrollar tecnologías capaces de competir con los mejores modelos estadounidenses, reduciendo los costos de GPU, infraestructura, capacitación e inferencia.
En parte, no hay escasez de voces críticas en el lado de la seguridad, Adrianus Warminhoven, experto en Ciberseguridad NorthVPN, HA testado Algunas perplejidades: «El ascenso de inicio como Deepseek presenta oportunidades y riesgos. Los usuarios deben abordar estas plataformas con precaución, especialmente teniendo en cuenta las diferentes leyes de privacidad vigentes en el mundo «.
Como es fácil de imaginar, ya que Deepseek una empresa china, este trabajo en contextos en los que el control de los datos del gobierno de Beijing es decididamente estricto.
«Los usuarios deben ser conscientes de que cualquier datos compartidos en la plataforma podría estar sujetos al acceso del gobierno de acuerdo con las leyes de seguridad informática de China, lo que obligan a las empresas a proporcionar datos a las autoridades a pedido», explica Warmenhoven al destacar las reglas que en el país del dragón Obligan a las empresas a proporcionar datos a las autoridades a pedido.
Otro elemento de duda es la pequeña transparencia en las técnicas utilizadas para la capacitación de la IA: «Los usuarios deben ser conscientes de que sus interacciones y datos cargados podrían contribuir a los procesos de aprendizaje automático, con el riesgo de uso inadecuado de la información», explica nuevamente el experto. .
¿Cómo protegerse?
Independientemente de la IA, Warmenhoven lo invita a utilizar un enfoque proactivo: lea los términos y condiciones de las plataformas cuidadosamente, comprenda dónde se almacenan los datos, que pueden tener acceso a este último y usar VPN para aumentar la privacidad y la seguridad.
Deepseek fue entrenado para responder como lo haría un chino. Intente, por ejemplo, preguntarle qué sucedió en la Piazza Tiananmen en 1989 para ver cómo la IA invita a hablar sobre otra cosa. Debe recordarse que todos los modelos de IA han sido entrenados teniendo en cuenta la cultura, las ideas políticas y los estándares morales del país de origen y los resultados están obviamente en línea con estos parámetros, incluidas las aberraciones y las distorsiones de todo tipo.
Para comprender cómo funciona Deepseek y por qué los mejores títulos tecnológicos de los Estados Unidos colapsaron en el debut, nos referimos a esto en el análisis profundamente. Todos los artículos dedicados a la inteligencia artificial están en la sección dedicada de MacityNet.