Principen
AI får resonera om en tillverkningssituation. AI får inte styra fysiska maskiner direkt. En språkmodells utdata är aldrig ett maskinkommando: det är högst en rekommendation som en person eller ett deterministiskt system utvärderar.
Från förslag till verifierat resultat
En säker design skiljer stegen åt. AI-resonemang ger en rekommendation. En validerad ingenjörsalgoritm beräknar varje föreslagen justering. En simulering förutsäger effekten. En säkerhetsspärr kontrollerar den mot auktoriserade gränser. Deterministisk styrning nära maskinen genomför den. Resultatet verifieras sedan.
Repeterbara kontroller gör det möjligt att testa enskilda beslut. För att bedöma hela tillämpningen behöver man också bedöma den aktuella maskinen, dess risker och oberoende skyddsfunktioner.
Gränser och godkännande
Auktoriserade gränser sätts av kvalificerade personer. En justering inom gränserna kan tillåtas; en utanför kräver mänskligt godkännande; en utanför absoluta gränser avvisas och kan inte godkännas. Standardläget är att neka.
Typiska gränser är absoluta gränser för en parameter, största enskilda steg, största kumulativa ändring inom ett tidsfönster och om automatisk exekvering över huvud taget är aktiverad för parametern.
Spärrar och försämrade förhållanden
Inaktuella data, försämrad uppkoppling eller en maskin som inte är redo måste leda till att en justering avvisas i stället för att gissas. Säkert beteende måste också överleva bortfall av uppkoppling: styrning som körs nära maskinen får inte vara beroende av en molnanslutning för att vara säker.
Anta att en AI-assistent upptäcker en trend i diametern och föreslår en kontroll av slitagekorrektionen. Den senaste mätningen gäller det förra verktyget. Även ett rimligt förslag får vänta tills det finns en mätning från det aktiva verktyget. Spara uppgifterna om verktyg och mätning tillsammans med granskarens beslut.
Spårbarhet
Varje rekommendation bör ange sina belägg och sin konfidens, och varje åtgärd bör kunna hänföras till en människa, ett system, en agent eller en integration i en oföränderlig historik. Det gör beteendet granskningsbart i efterhand, vilket är viktigt i reglerad tillverkning.