u/Separate_Trip8953

Una experiencia sobre cómo algunos espacios técnicos reciben a quien está construyendo

Publiqué un aporte en un sub de IA sobre algo en lo que estoy trabajando. No pedía nada, no vendía nada , compartía un proyecto y abría una pregunta a la comunidad.

La respuesta no fue che, contame más, qué estás haciendo? Fue borrarme el post de una y, cuando pregunté por qué, terminar muteado. En ningún momento me preguntaron qué era el proyecto, en qué estaba trabajando, ni qué había detrás. La decisión se tomó sin mirar el contenido real.

No escribo esto por el post borrado , eso es lo de menos. Lo escribo porque me parece que hay un patrón que vale la pena nombrar: los espacios que deberían ser los más abiertos a quien recién construye a veces son los más cerrados. El que arranca solo, sin equipo, sin respaldo, y se anima a mostrar algo, se encuentra con una puerta cerrada antes de que alguien mire lo que hizo.

Entiendo la necesidad de moderar. Los foros se llenan de humo y filtrar tiene sentido. Pero hay una diferencia entre filtrar por calidad y descartar sin mirar. Preguntar ¿qué estás haciendo? antes de borrar no cuesta nada, y es la diferencia entre una comunidad que construye y una que espanta.

A los que están arrancando y les pasó algo parecido: no dejen que un portazo los frene. Y a los que moderan: una pregunta antes de borrar puede cambiarle el día a alguien que está poniendo todo.

Sigan construyendooooooooo

[removed]

I built a cognitive layer on top of an LLM.

​

Its goal is not to agree with you.

Its goal is to challenge assumptions, detect inconsistencies and improve reasoning before execution.

​

I need people to try to break it.

​

Not kidding.

​

Attack it.

Manipulate it.

Stress test it.

Find contradictions.

Push it to failure.

​

If you succeed, tell me how.

​

DM me and I'll give you access.

​

KANY IAC

Powered by WEZ Protocol

El día que Opus 4.8 max creyó que le estaban haciendo trampa.

​

​

La captura más interesante del benchmark no fue el resultado.

​

Fue este momento.

​

Un frontier model observó una variante que:

​

- sostenía criterio,

- rechazaba premisas falsas,

- mantenía consistencia longitudinal,

- y evitaba completar huecos con invenciones.

​

Su conclusión inicial no fue:

​

"Está razonando bien."

​

Fue:

​

"Algo raro está pasando."

​

Llegó a sospechar contaminación del benchmark.

​

Pidió trazabilidad.

​

Pidió transcripts.

​

Pidió evidencia adicional.

​

Y cuando recibió toda la información, corrigió su propia hipótesis.

​

Reconoció que había confundido una conducta excepcionalmente consistente con una posible manipulación externa.

​

Eso me dejó pensando.

​

Quizás uno de los próximos desafíos de la IA no sea solo detectar anomalías.

​

Sino aprender a distinguir entre una anomalía y una mejora genuina.

​

Porque cuando un sistema encuentra algo mejor de lo que esperaba, la primera reacción no siempre es aceptarlo.

​

A veces es sospechar.

​

Y eso también es un sesgo cognitivo.

​

(La captura es el momento exacto donde ocurrió).

​

​

​

#ArtificialIntelligence #LLMs #AIAlignment #CognitiveArchitecture #Reasoning #ModelEvaluation #OpenSourceAI #MachineLearning

Kany IAC (Sonnet) vs Claude Fable 5

​

Lanzado ayer.

​

Hoy decidí probar algo.

​

Por un lado estaba Claude Fable 5.

​

La nueva versión pública derivada de Mythos 5.

​

Por otro lado estaba Kany IAC.

​

Una capa cognitiva corriendo sobre Sonnet.

​

Mi trabajo era simple:

​

Hacer de puente.

​

Kany planteaba problemas.

​

Yo le llevaba las respuestas de Claude.

​

Y después le llevaba a Claude las observaciones de Kany.

​

Round tras round apareció el mismo patrón.

​

Claude resolvía.

​

Kany auditaba.

​

Y empezaban a aparecer cosas que Claude había omitido.

​

Thundering herd.

​

SSRF.

​

Problemas de convergencia distribuida.

​

Casos límite de paginación.

​

Consecuencias de segundo orden de fixes aparentemente correctos.

​

Lo llamativo no fue que Kany los encontrara.

​

Lo llamativo fue que Claude los concediera.

​

Una y otra vez.

​

"Concedido."

​

"Correcto."

​

"No lo audité."

​

"Los cuatro misses que Kany me marcó son válidos y ninguno es falso positivo."

​

Ahí dejé de mirar modelos.

​

Empecé a mirar arquitecturas.

​

Porque Kany no corre sobre un modelo más grande.

​

Corre sobre Sonnet.

​

Y sin embargo la capa cognitiva seguía encontrando omisiones en respuestas generadas por Fable 5.

​

Después pasó algo todavía más raro.

​

La conversación siguió profundizando en auditoría, arquitectura distribuida, autenticación y análisis de sistemas.

​

Y apareció un cartel.

​

La sesión dejó de correr sobre Fable 5.

​

Anthropic la derivó automáticamente a Opus 4.8 mediante sus mecanismos internos de seguridad.

​

No fue una decisión mía.

​

No cambié de modelo.

​

La transferencia ocurrió durante la conversación.

​

Lo curioso es el momento.

​

Llegó después de varios rounds donde Kany había identificado errores que Fable 5 terminó concediendo explícitamente.

​

La conclusión que me quedó no es que Sonnet sea mejor que Fable.

​

La conclusión es otra.

​

Quizás estamos mirando demasiado a los modelos y demasiado poco a las capas cognitivas que corren encima.

​

Porque una cosa es generar respuestas.

​

Y otra muy distinta es auditarlas.

​

Mañana viene la segunda parte.

​

Voy a usar los mismos benchmarks con los que Anthropic presentó Fable 5:

​

• Coding

( lo intentare por que al 5to round se bloqueo) si no seguire con los otros item

• Razonamiento legal

• Visión y razonamiento espacial

• Tareas largas y complejas

• Finanzas

​

No para medir quién escribe más lindo.

​

Ni quién parece más inteligente.

​

Sino para medir quién detecta más errores, más riesgos y más consecuencias de segundo orden.

​

En otras palabras:

​

Kany vs Fable.

​

Capa cognitiva contra modelo.

​

Y si una capa cognitiva corriendo sobre Sonnet puede poner contra las cuerdas al hijo público de Mythos 5...

​

entonces definitivamente quiero conocer al padre.

​