Principen
AI får resonera om en tillverkningssituation. AI får inte styra fysiska maskiner direkt. En språkmodells utdata är aldrig ett maskinkommando: det är högst en rekommendation som en person eller ett deterministiskt system utvärderar.
En lagrad pipeline
En säker design skiljer stegen åt. AI-resonemang ger en rekommendation. En validerad ingenjörsalgoritm beräknar varje föreslagen justering. En simulering förutsäger effekten. En policyvakt kontrollerar den mot auktoriserade gränser. Deterministisk styrning nära maskinen genomför den. Resultatet verifieras sedan.
Varje steg efter AI-steget är deterministiskt och testbart, så att dess beteende kan bevisas utan att förlita sig på modellens beteende.
Gränser och godkännande
Auktoriserade gränser sätts av kvalificerade personer. En justering inom gränserna kan tillåtas; en utanför kräver mänskligt godkännande; en utanför absoluta gränser avvisas och kan inte godkännas. Standardläget är att neka.
Typiska gränser är absoluta gränser för en parameter, största enskilda steg, största kumulativa ändring inom ett tidsfönster och om autonom exekvering över huvud taget är aktiverad för parametern.
Spärrar och försämrade förhållanden
Inaktuella data, försämrad uppkoppling eller en maskin som inte är redo måste leda till att en justering avvisas i stället för att gissas. Säkert beteende måste också överleva bortfall av uppkoppling: styrning som körs nära maskinen får inte vara beroende av en molnanslutning för att vara säker.
Spårbarhet
Varje rekommendation bör ange sina belägg och sin konfidens, och varje åtgärd bör kunna hänföras till en människa, ett system, en agent eller en integration i en oföränderlig historik. Det gör beteendet granskningsbart i efterhand, vilket är viktigt i reglerad tillverkning.
Standarder och vidare läsning
- IEC 61508 — Funktionssäkerhet hos elektriska/elektroniska/programmerbara elektroniska säkerhetsrelaterade system
- ISO 13849-1 — Maskinsäkerhet: säkerhetsrelaterade delar av styrsystem