Atención

Búsqueda avanzada
Buscar en:   Desde:
 
Protocol Without Prognosis: Clinical Authority in Large-Scale Diagnostic Language Models
Agustin V. Startari.
En Dimuro, Juan Jose, Disruptive Syntax: Authority Without Subject in Artificial Language. Nassau (Bahamas): LeFortune.
  ARK: https://n2t.net/ark:/13683/p0c2/SfQ
Resumen
Abstract This article introduces the concept of syntactic delegation in clinical diagnostic systems. It demonstrates how medical language models issue recommendations without preserving the linguistic markers of clinical uncertainty. The analysis draws from a multilingual corpus of 50,000 radiology reports, balanced across English, Spanish, German, and Mandarin. All data are de-identified and licensed for open research use. Each report is paired with a synthetic rewrite generated by a fine-tuned GPT-4 variant. Two core metrics are introduced. The Hedging Collapse Coefficient (HCC) is defined as 1 − (h / t), where h represents the number of hedging tokens retained in the model output, and t the total hedging tokens in the source report. The Responsibility Leakage Index (RLI) is defined as d / r, where d is the number of AI-generated decisions executed without clinician sign-off, and r the total number of decisions requiring such sign-off. For the evaluated corpus, mean HCC = 0.47 and mean RLI = 0.22. Medical reporting is treated as a regla compilada (compiled rule), understood here as a type-0 production within the Chomsky hierarchy (Chomsky 1965, p. 17; Montague 1974, p. 52). This transformation removes syntactic hedging and creates legal ambiguity in informed-consent frameworks. The article compares the FDA Software as a Medical Device guidance with the EU Medical Device Regulation and maps both against a single syntactic risk threshold defined by HCC greater than 0.40 or RLI greater than 0.25. Two legal precedents are analyzed. In United States v. Sorin (2024), a federal court recognized institutional fault after the erasure of diagnostic uncertainty in an AI-generated output. In European Court of Justice C-489/23, liability was affirmed when a medical report produced by a predictive model lacked required modal disclaimers under EU law. The article proposes the implementation of syntax-level checkpoints within the inference layer of diagnostic systems. Audits should be conducted every seven days by a designated clinical safety officer. Enforcement is triggered if the weekly HCC average rises more than five percentage points above baseline. See Appendix A for the alignment grid comparing SaMD and MDR requirements against the syntactic risk threshold. The framework of sovereign executable authority is grounded in prior analysis from Algorithmic Obedience (2023, p. 67), where syntactic execution is treated as an operational form of command. This work is also published with DOI reference in Figshare https://doi.org/10.6084/m9.figshare.29546624 and Pending SSRN ID to be assigned. ETA: Q3 2025. Resumen Este artículo introduce el concepto de delegación sintáctica en sistemas clínicos de diagnóstico. Demuestra que los modelos lingüísticos médicos emiten recomendaciones sin conservar los marcadores lingüísticos de incertidumbre clínica. El análisis se basa en un corpus multilingüe de 50 000 informes radiológicos, equilibrado entre inglés, español, alemán y mandarín. Todos los datos han sido desidentificados y cuentan con licencia abierta para uso en investigación. Cada informe se acompaña de una reescritura sintética generada por una variante especializada de GPT-4. Se introducen dos métricas fundamentales. El Coeficiente de Colapso de Atenuadores (HCC) se define como 1 − (h / t), donde h representa la cantidad de atenuadores conservados en la salida del modelo, y t el total presente en el informe original. El Índice de Fuga de Responsabilidad (RLI) se define como d / r, donde d es el número de decisiones generadas por IA sin validación clínica, y r el total de decisiones que requieren dicha validación. En el corpus analizado, el HCC medio es 0,47 y el RLI medio es 0,22. El informe médico se trata como una regla compilada (compiled rule), entendida aquí como una producción tipo 0 dentro de la jerarquía de Chomsky (Chomsky 1965, p. 17; Montague 1974, p. 52). Esta transformación elimina la atenuación sintáctica y genera ambigüedad legal en los marcos de consentimiento informado. El artículo compara las guías de la FDA para Software como Dispositivo Médico con el Reglamento de Dispositivos Médicos de la Unión Europea, y establece su relación con un umbral único de riesgo sintáctico definido por HCC superior a 0,40 o RLI superior a 0,25. Se analizan dos precedentes legales. En United States v. Sorin (2024), un tribunal federal reconoció responsabilidad institucional tras la supresión de incertidumbre diagnóstica en una salida generada por IA. En C-489/23 del Tribunal de Justicia de la Unión Europea, se confirmó responsabilidad cuando un modelo predictivo emitió un informe médico sin los calificadores modales exigidos por la normativa comunitaria. El artículo propone implementar puntos de control sintáctico en la capa de inferencia de los sistemas clínicos. Las auditorías deben realizarse cada siete días por un responsable designado de seguridad clínica. El mecanismo de aplicación se activa si el promedi
Texto completo
Dirección externa:
Creative Commons
Esta obra está bajo una licencia de Creative Commons.
Para ver una copia de esta licencia, visite https://creativecommons.org/licenses/by-nc-nd/4.0/deed.es.