I n d on e s i an   Jo u r n al   o El e c t r i c al   En gi n e e r i n g   an d   C o m p u te r   S c i e n c e   V o l .   41 ,   N o .   2 F e b r ua r y   20 2 6 ,   pp .   614 ~ 6 23   IS S N :   2 502 - 4 7 52 ,   D O I :   10. 1 1591 / i j e e cs .v 41 . i 2 . pp 6 1 4 - 623             614     Jou r n al   h o m e pa ge ht t p: / / i j e e cs . i a e s c or e . c om   C o n t e x t u a l i z e d   c l i n i c a l   a n o m a l y   d e t e c t i o n   w i t h     e x p l a i n a b l e   A I   a n d   p a t i e n t   m o d e l i n g       A m e l   El k e tr o u s s i ,   B ac h i r   D je b b a r ,   I b ti s s e m   Be k k o u c h e   D e p a rt m e n t   o C o m p u t e a n d   S c i e n c e ,   F a c u l t y   o M a t h e m a t i c s   a n d   Co m p u t e S c i e n c e ,     U n i v e r s i t y   o f   S c i e n c e   a n d   T e c h n o l o g y   o f   O ra n   M o h a m e d   Bo u d i a f ,   O ra n ,   A l g e ri a       A r ti c l e   I n fo     A B S TR A C T   Ar t i c l e   h i s t or y :   R e c e i v e S e p   22 2 025   R e v i s e D e c   22 2025   A c c e pt e J un   11 2026       T hi s   s t udy   a i m s   t o   r e d uc e   a l a r m   f a t i g ue   a nd   i m pr o v e   t he   c l i n i c a l   r e l e v a nc e   o f   a l e r t s   i n   i n t e n s i v e   c a r e   by   c o m bi ni ng   s e que nt i a l   m o de l i ng ,   pa t i e n t   c o nt e xt ua l i z a t i o n,   e xp l a i na bl e   a r t i f i c i a l   i n t e l l i g e nc e   ( X A I ) ,   a nd   p r o ba bi l i t y   c a l i b r a t i o n.   T o   t hi s   e n d,   w e   l e v e r a g e   t he   a du l t   c o ho r t s   f r o m   M I M I C - I I I / I V ,   s e g m e nt e d   i n t o   f o ur - ho ur   w i ndo w s ,   e xp l i c i t l y   ha n dl i ng   m i s s i ng   da t a   a nd  c o ns t r uc t i ng   a   c o nt e x t   v e c t o r   t ha t   i n t e g r a t e s   de m o g r a phi c s ,   c o m o r bi di t i e s ,   a nd  t he r a pe u t i c   i nt e r v e n t i o ns .   T he   a pp r o a c r e l i e s   o a   t a bu l a r   a ut o e nc o de r ,   a l o ng   s ho r t - t e r m   m e m o r y   ( L S T M )   a ut o e nc o de r ,   a nd   a   t r a ns f o r m e r ,   c om pl e m e n t e d   by   a n   a d j us t m e n t   l a y e r   b a s e d   o a ud i t a b l e   c l i ni c a l   r ul e s ,   l o c a l   e xpl a na t i o ns   ( L I M E / S H A P ) ,   a n po s t - ho c   c a l i b r a t i o ( t e m pe r a t u r e   s c a l i ng ) .   E v a l ua t i o n   i nv o l v e s   r e c e i v e r   o pe r a t i ng   c ha r a c t e r i s t i c   ( R O C ) / p r e c i s i o n r e c a l l   ( PR )   a r e a   und e r   t he   c ur v e   ( A U C ) ,   F 1 - s c o r e ,   s e n s i t i v i t y   a nd   s p e c i f i c i t y ,   a s   w e l l   a s   c a l i br a t i o m e t r i c s   ( E C E ,   B r i e r   s c o r e ) ,   a l e r t   bu r de n,   a b l a t i o s t ud i e s r o bus t ne s s   t e s t s ,   a nd  s ubg r o up  f a i r ne s s   a na l y s e s .   A c r o s s   a l l   e x pe r i m e nt s ,   t he   c om pl e t e   m o de l   ( + C o nt e x t + X A I + C a l i br a t i o n)   o u t pe r f o r m s   b a s e l i ne s   i n   A U P R C   a nd   F 1 ,   r e duc e s   a l e r t   bu r de n ,   a nd   i m pr o v e s   c a l i b r a t i o w hi l e   pr o v i di ng   un de r s t a nd a b l e   e x pl a na t i o ns .   S pe c i f i c a l l y ,   t he   p r o po s e m o de l   i m pr o v e s   R O C   A U C   f r o m   0. 74   t o   0 . 89   a nd   r e d uc e s   a l e r t   b ur de n   by   a ppr o xi m a t e l y   o ne   t h i r c o m pa r e t o   c l i n i c a l   t hr e s ho l d s .   Ke y w or ds :   A n o m a l y   de t e c t i o n     Ca l i b r a t i o n   E xpl a i na b l e   A (X A I)   F a i rn e s s   ICU     L S T M   M IM IC - III/ IV     T r a n s f o r m e r   T hi s   i s   an   ope n   ac c e s s   ar t i c l e   u nde r   t he   C C   B Y - SA   l i c e ns e .     Cor r e s pon di n g   Au t h or :   A m e l   E l ke t r o us s i   D e pa rt m e n t   o f   Co m put e a nd  S c i e n c e ,   F a c ul t y   of   M a t h e m a t i c s   a n Co m put e r   S c i e n c e     U n i v e r s i t y   of   S c i e n c e   a n d   T e c hn o l o g y   of   O r a M o ha m e d   B oudi a f   O ra n ,   A l ge r i a   E m a i l :   a m e l . e l ke t r o us s i @ u ni v - us t o . dz       1.   I N TR O D U C TI O N   Int e n s i v e   c a r e   u ni t s   (ICU s ge n e r a t e   a   de n s e   a n d   h e t e r o ge n e o us   s t r e a m   o f   da t a ,   i n c l u di n g   v i t a l   s i g n s ,   l a b o r a t o r y   r e s ul t s ,   m e di c a t i o n s ,   a nd  c l i ni c a l   n o t e s .   W h i l e   a rt i f i c i a l   i nt e l l i ge n c e   ( AI )   c a de t e c t   de v i a t i o n s   i s uc h   d a t a ,   i t s   a do pt i o i c r i t i c a l   c a r e   r e m a i n s   l i m i t e d   due   t o :   a)   m o de l s   o f t e n   pe r c e i v e a s   b l a c b o xe s ,   b)   a   l a c o f   c o n t e xt ua l i z a t i o o f   a l e rt s   (e . g. ,   a ge ,   c o m o r b i di t i e s ,   t r e a t m e nt s ,   c a r e   t ra j e c t o r i e s ),   c)   b i a s e s   a nd  c h a l l e n ge s   r e l a t e t o   r e a l - t i m e   i nt e gra t i o n.   W e   h y p o t h e s i z e   t ha t   a   t i g h t   c o upl i n b e t w e e n   e xpl a i na b l e   A (X A I)  a nd  p a t i e nt   c o n t e xt   m o de l i n g   c a r e duc e   f a l s e   a l a rm s ,   e nha n c e   c l i ni c a l   u t i l i t y ,   a n d   f o s t e t rus t .   T h e   t h e o r e t i c a l   f o un da t i o o f   o ur  s t u dy   r e s t s   o n   t hr e e   pi l l a r s :   a n o m a l y   de t e c t i o n   t h e o r y ,   t h e   p ri n c i p l e s   o f   e xpl a i na b l e   a r t i f i c i a l   i nt e l l i ge n c e   X A I,   a nd  c o n t e xt ua l   p a t i e nt   m o de l i n g   i h e a l t h   s c i e n c e s .   A n o m a l y   de t e c t i o n   o ri gi na t e s   f r o m   s t a t i s t i c a l   t h e o r y   a n d   u n s upe r v i s e c l a s s i f i c a t i o m e t h o ds ,   a i m i n g   t o   i de n t i fy   r a r e   o a t y pi c a l   o b s e r v a t i o n s   w i t h i a   d a t a s e t .   I m e di c i n e ,   s uc h   a n o m a l i e s   o f t e n   Evaluation Warning : The document was created with Spire.PDF for Python.
In do n e s i a J   E l e c   E ng  &   Co m S c i     IS S N :   2 5 0 2 - 4 7 52       Cont e x t ual i z e d   c l i n i c a l   a nom al y   d e t e c t i on  w i t e x p l ai nabl e   A …  ( A m e l   E l k e t r ous s i )   615   c o r r e s po n t o   c ri t i c a l   p a t h o p h y s i o l o gi c a l   c ha n ge s ,   t y pi c a l l y   de t e c t e t hr o ug h   v i t a l   s i g n s ,   c l i n i c a l   d a t a ,   o m e di c a l   i m a gi ng.   M o de rn   m e t h o ds   i n c r e a s i ngl y   r e l y   o n   de e n e ura l   n e t w o r ks ,   s uc h   a s   a u t o e n c o de r s   a n d   s t o c h a s t i c   r e c u rr e nt   m o de l s ,   w h i c l e a rn  t o   r e c o n s t r uc t   n o rm a l   da t a   a c c ura t e l y   a nd  f l a g   de v i a t i o n s   a s   a n o m a l i e s   [1] ,   [ 2].   B e y o n i n t e n s i v e   c a r e ,   r e s e a r c h e r s   ha v e   a l s o   s uc c e s s f ul l y   a ppl i e m a c h i n e   l e a rni n g   t o   o t h e ph y s i o l o gi c a l   m o ni t o r i n g   t a s ks ,   s uc a s   f e t a l   e l e c t r o c a r di o gr a m   p r e di c t i o us i n g   a   ra n do m   f o r e s t - b a s e d   a pp r o a c [3] ,   i l l us t r a t i ng  t h e   g r o w i n g   r o l e   o f   A m e t h o ds   i c l i n i c a l   s i g n a l   a n a l y s i s .   In   pa ra l l e l ,   t h e   r i s e   o X A a dd r e s s e s   t h e   p r e s s i n n e e f o r   t r a n s p a r e n c y   i n   a ut o m a t e de c i s i o n - m a ki ng  s y s t e m s ,   e s pe c i a l l y   i n   h i g h - s t a ke s   do m a i n s   l i ke   h e a l t h c a r e .   X A I   m e t h o ds - t hr o ug h   t e c hni que s   s uc a s   L IM E   a nd  S H A P - s e e t o   m a ke   n e u r a l   n e t w o r p r e di c t i o n s   i nt e r p r e t a b l e   f o r   c l i ni c i a n s ,   t h e r e b y   s t r e n gt h e ni n g   t r us t   i n   A I   s y s t e m s   [4] - [7].   F i na l l y ,   pa t i e n t   c o nt e xt   m o de l i ng  r e l i e s   o n   p a t i e nt - c e nt e re a p p r o a c h e s   t ha t   c o n s i de r   n o t   o n l y   c urr e n t   c l i n i c a l   d a t a   b ut   a l s o   m e di c a l   hi s t o r y ,   c o e xi s t i n g   c o n di t i o n s ,   a nd  c a r e   t ra j e c t o r i e s .   T hi s   pa ra d i gm   a l i g n s   w i t h   t h e   p ri n c i p l e s   o f   pe r s o n a l i z e a n d   pe r s o n - c e n t e r e m e d i c i n e ,   a n d   i t   o f t e n   r e l i e s   o n   s e m a n t i c   r e s o ur c e s   a n d   i nt e r o pe ra b i l i t y   s t a n d a r ds   s uc a s   u n i f i e m e di c a l   l a n g ua ge   s y s t e m   ( U M L S ) s y s t e m a t i z e n o m e n c l a t u r e   o f   m e di c i n e     c l i n i c a l   t e r m s   ( S N O M E D   C T ) ,   a n d   h e a l t l e v e l   s e ve n   ( H L 7 )   f a s t   h e a l t h c a r e   i n t e r o pe r a b i l i t y   r e s o ur c e s   ( F H I R )   t o   r e p r e s e n t   di a g n o s e s ,   t re a t m e n t s ,   a n d   c l i ni c a l   w o r kf l ow s   i a   s t r uc t u r e d   w a y   [8] - [10].   U n l i ke   p ri o i nt e n s i v e   c a r e   u ni t   ( ICU )   a n o m a l y   de t e c t i o n   a pp r o a c h e s   t h a t   a dd r e s s   a c c ura c y ,   i n t e r p r e t a b i l i t y ,   o r   c a l i b r a t i o i i s o l a t i o n,   t h e   p r o po s e d   f r a m e w o r j o i nt l y   i n t e g r a t e s   pa t i e n t   c o n t e xt   mo de l i ng,   e xpl a i na b l e   A I,   a n d   p r o b a b i l i s t i c   c a l i b r a t i o w i t h i a   u ni f i e pi pe l i n e .       2.   R ELA TED   WO R K   T h i s   s e c t i o n   s u m m a r i z e s   p r i o r   w o r o n   c l i n i c a l   a n o m a l y   de t e c t i o n ,   X A I,   a nd  p a t i e nt   c o nt e xt   t o   s i t ua t e   o ur  c o n t ri b ut i o n .   T ra d i t i o n a l   c l i ni c a l   r ul e s   a n d   s c o ri n g   s y s t e m s   t r i gge a l e r t s   w h e m e a s u r e m e n t s   e xc e e f i xe t hr e s h o l ds   (e . g. ,   e xt r e m e   h e a r t   ra t e ) .   T h e y   a r e   e a s y   t o   i n t e r p r e t   b ut   ge n e ra t e   m a n y   f a l s e   a l a rm s   b e c a us e   t h e y   i gn o r e   i n t e r - p a t i e nt   v a r i a b i l i t y   a nd  t e m po r a l   t re n ds .   N E W S p r o v i de s   a   s i m pl e   e a r l y   w a r ni n g   s c o r e   m o s t l y   o ut s i de   ICU s ,   w h i l e   ICU   s e v e r i t y   s c o r e s   s uc a s   A P A CH E   II   a r e   us e d   f o r   ri s k   s t ra t i f i c a t i o ra t h e r   t ha n   c o nt i n uo us   m o n i t o ri n [11] - [ 13].   A   s e c o n l i n e   o f   w o r m o de l s   p a t i e n t   t r a j e c t o r i e s   w i t h   t i m e - s e r i e s   m e t h o ds .   R e c urr e nt   n e u ra l   n e t w o r ks   a n d   a t t e n t i o n - b a s e a r c h i t e c t ur e s   h a ndl e   i rr e gul a s a m pl i n g   a n d   m i s s i n g   d a t a ;   f o i n s t a n c e ,   r e v e r s e   t i m e   a t t e n t i o ( R E T A IN )   us e s   r e v e r s e - t i m e   a t t e n t i o t o   hi g hl i g ht   i n f l ue n t i a l   f e a t u r e s   [1 4],   a n d   t ra n s f o r m e r - b a s e m o de l s   s uc a s   b i d i r e c t i o n a l   e n c o de r e p r e s e n t a t i o n s   f r o m   t ra n s f o r m e r s   f o e l e c t r o ni c   h e a l t r e c o r ds   ( B E H R T )   a n m e di c a l   b i di r e c t i o n a l   e n c o de r   r e pr e s e nt a t i o n s   f r o m   t ra n s f o r m e r s   ( M e d - B E R T )   l e v e r a ge   l a r ge - s c a l e   e l e c t r o ni c   h e a l t r e c o r ds   t o   a c h i e v e   s t r o n g   p r e di c t i v e   pe r f o r m a n c e   [1 5],   [16 ].   F o m ul t i v a r i a t e   t i m e - s e r i e s   a n o m a l y   de t e c t i o n ,   u n s upe r v i s e o r   w e a kl y   s upe r v i s e m o de l s   l e a rn   n o rm a l   b e h a v i o r   a n d   f l a de v i a t i o n s   v i a   r e c o n s t r uc t i o o f o r e c a s t i n g   e rr o r s   [1] ,   w i t r e c e n t   s t udi e s   e xp l o r i ng   e xpl a i na b l e   t i m e - s e ri e s   m o de l s   f o r   ICU   o ut c o m e s   s uc h   a s   m o r t a l i t y   a n l e n gt o f   s t a y   [2].   E xpl a i na b i l i t y   i s   c r uc i a l   f o r   c l i ni c a l   a do pt i o n :   c a r e gi v e r s   n e e t o   unde r s t a n d   w h y   t h e   s y s t e m   r a i s e s   a n   a l e r t .   M e t h o ds   s uc a s   L IM E   a nd  S H A P   p r o v i de   l o c a l   e x pl a na t i o n s   a n d   qu a n t i fy   f e a t ur e   c o n t ri b ut i o n s   [4] ,   [5],   a n d   s u r v e y s   o n   X A I   i m e di c i n e   e m p ha s i z e   b o t t h e   p o t e n t i a l   a n d   t h e   n e e f o c a r e f ul   i n t e g ra t i o i nt o   c l i n i c a l   w o r kf l ow s   [6],   [7] .   P a t i e n t   c o n t e xt   i s   a n o t h e ke y   i n g r e di e nt :   pe r s o n a l i z e a l e r t s   m us t   a c c o un t   f o r   de m o g r a p hi c s ,   c o m o r b i di t i e s ,   a n d   t r e a t m e n t s .   O nt o l o gi e s   s uc a s   U M L S   a n d   S N O M E D   CT   a n d   s t a n da rds   l i ke   H L F H I s uppo r t   i nt e r o pe ra b l e ,   s t ruc t u r e c o n t e x t   r e p r e s e nt a t i o n s   t ha t   c a n   a dj us t   a n o m a l y   s c o r e s   (e . g. ,   f o t r e a t e di a b e t i c   pa t i e n t s )   [8] - [10] .   E v e w e l l   pe r f o rm i ng  m o de l s   m a y   p r o duc e   po o rl y   c a l i b ra t e d ,   o v e r c o n f i de nt   p r o b a b i l i t i e s .   T e c hni que s   s uc a s   t e m pe r a t u r e   s c a l i ng   i m p r o v e   r e l i a b i l i t y   s o   t ha t   p r e di c t e d   p r o b a b i l i t i e s   b e t t e m a t c o b s e r v e d   e v e nt   ra t e s ,   a nd   p ra c t i t i o n e r s   a s s e s s   c a l i b ra t i o n - us i ng  m e t ri c s   s uc a s   t h e   b r i e s c o r e   a nd  r e l i a b i l i t y   di a g ra m s   [17 ] .   B i a s   a nd  f a i rn e s s   a r e   a l s o   c ri t i c a l :   i na p p r o p ri a t e   o p t i m i z a t i o o b j e c t i v e s   c a s y s t e m a t i c a l l y   di s a dv a nt a ge   c e r t a i s ub g r o ups   [18 ],   a nd   r e c e nt   w o r k   o f a i m a c hi n e   l e a rni ng   i h e a l t h c a r e   s t r e s s e s   c o n t i nuo us   s ub g r o up - l e v e l   e v a l ua t i o (e . g . ,   b y   a ge ,   s e x ,   c o m o r b i d i t y a nd   e xp l i c i t   f a i rne s s   a s s e s s m e nt   a t   de p l oy m e nt   [1 9] ,   [2 0] .   In   s u m m a r y ,   pri o r   w o r h a s   a dv a n c e i n t e r p r e t a b l e   r u l e s   a n s c o r e s ,   t i m e - s e ri e s   de e l e a rni n g,   un s upe r v i s e a n o m a l y   de t e c t i o n ,   X A I ,   pa t i e n t   c o n t e xt   m o de l i n g ,   c a l i b r a t i o n,   a n d   f a i rn e s s ,   b ut   m o s t   e xi s t i n g   w o r ks   t r e a t   t h e s e   c o m po n e n t s   i n   i s o l a t i o n .   M o s t   s y s t e m s   fo c us   e i t h e o n   p r e d i c t i v e   a c c ur a c y   w i t h o ut   c a l i b ra t e d,   c o n t e xt - a w a r e   o ut put s   o o i nt e rp r e t a b i l i t y   w i t h o ut   s t a t e - of - t h e - a r t   s e que n t i a l   m o de l i n g .   By   c o n t ra s t ,   o u r   a pp r o a c h   c o m b i n e s   s e que n t i a l   m o de l i n g,   e xpl i c i t   pa t i e n t   c o n t e xt ,   i nt e gra t e d   X A I,   a nd  pr o b a b i l i t y   c a l i b ra t i o w i t h i a   s i ngl e   e n d - to - e n d   pi pe l i n e   f o r   c l i ni c a l   a n o m a l y   de t e c t i o n   o M IM IC - III/ IV ,   w i t a   c o n t e xt u a l   l a y e r   t o   a dj us t   a n o m a l y   s c o r e s ,   c l i ni c i a n - f a c i n g   e xpl a n a t i o n s ,   a nd  a   r e p r o duc i b l e   e v a l ua t i o pr o t o c o l   t ha t   i n c l ude s   c a l i b r a t i o a n d   c l i n i c a l   a c c e pt a b i l i t y .     Evaluation Warning : The document was created with Spire.PDF for Python.
                                IS S N :   2 5 0 2 - 4 7 52   In do n e s i a n   J   E l e c   E ng   &   Co m S c i V o l .   41 ,   N o .   2 F e b r ua r y   20 2 6 :   6 1 4 - 623   616   3.   M ET H O D   3. 1 .     D ata   an d   C o h o r t   W e   r e l y   o n   t h e   pub l i c l y   a v a i l a b l e   M IM IC - III  a n M IM IC - IV   c r i t i c a l   c a r e   da t a b a s e s   (P h y s i o N e t ),   w h i c c o n t a i de - i de nt i f i e ICU   a dm i s s i o n s .   A c c e s s   t o   t h e s e   da t a s e t s   i s   g ra nt e upo c o m pl e t i o o f   a   s h o r t   t r a i ni n g   c o ur s e .   O u s t udy   foc us e s   o n   a dul t   ICU   p a t i e nt s   w i t h   a t   l e a s t   2 h o u r s   o f   us a b l e   ph y s i o l o gi c a l   m e a s u r e m e nt s   [ 21],   [2 2].   T h e   c o n t e n t   o f   t h e   d a t a b a s e s   a r e   s how n   i T a b l e   1 .       T a b l e   1 .   M e a ni n g   o f   M IM IC  t a b l e s   M IM I t a b l e   D e s c ri p t i o n   CH A RT E V E N T S   V i t a l   s i g n s   t a k e n   a t   b e d s i d e   ( h e a r t   ra t e ,   S p O ,   b l o o d   p r e s s u r e ,   e t c . ).   L A BE V E N T S   L a b o ra t o r y   r e s u l t s   (l a c t a t e ,   c r e a t i n i n e ,   a n d   i o n s ).   D IA G N O S E S _ ICD   D i a g n o s e s   a n d   c o m o rb i d i t i e s   ( p a t i e n t   p r o f i l e ) .   P RE S CRI P T IO N S   M e d i c a t i o n s   r e c e i v e d   ( t h e ra p e u t i c   c o n t e x t ).   N O T E E V E N T S   Ca re g i v e r   n o t e s   (o p t i o n a l   t o   e n ri c h   t h e   c o n t e x t ).       -   D e m o gr a p hi c s :   a ge ,   s e x,   e t hni c i t y .   -   P h y s i o l o gi c a l   s i g n a l s :   v i t a l   s i g n s   s uc a s   h e a rt   r a t e ,   r e s pi r a t o r y   r a t e ,   b l o o pr e s s u r e ,   o x y ge n   s a t u ra t i o n ,   a n t e m pe r a t u r e .   -   L a bo r a t o r y   t e s t s :   b i o c h e m i c a l   a n d   h e m a t o l o gi c a l   v a l ue s   (e . g . ,   e l e c t r o l y t e s ,   c r e a t i n i n e ,   b l o o c o un t s ).   -   T h e ra pi e s   a n d   i nt e r v e nt i o n s :   m e di c a t i o n s ,   v a s o pr e s s o r s ,   m e c ha n i c a l   v e nt i l a t i o n,   d i a l y s i s .   -   D i a g n o s e s   a n p r o c e dur e s :   e n c o de us i n g   ICD - 9 / 10   c o de s .   -   Cl i ni c a l   n o t e s :   f r e e - t e xt   r e po rt s   w ri t t e by   c a r e gi v e r s .   -   O ut c o m e s :   m o r t a l i t y ,   l e n gt o f   s t a y ,   r e a d m i s s i o n .   T h e s e   r i c h ,   h e t e r o ge n e o us   da t a   s o ur c e s   e n a b l e   b o t s e que n t i a l   m o de l i n g   o f   pa t i e nt   t ra j e c t o r i e s   a n d   c o n t e xt ua l i z a t i o t hr o ug h   de m o gra p h i c ,   c o m o r b i di t y ,   a n d   t h e ra pe ut i c   p r o f i l e s .   W e   c o n s t r uc t   a   m a s t e r   l i s t   o v a r i a b l e s   o f   i nt e r e s t   (e . g. ,   S pO ,   l a c t a t e ).   T h e   p r e p r o c e s s i n g   pi pe l i n e   t h e m a ps   t h e s e   v a r i a b l e s   t o   t h e   c o r r e s po n di ng   c o de s   i t h e   M IM IC   d a t a b a s e   t a b l e s   i o r de t o   r e t r i e v e   t h e   a pp r o p r i a t e   c o l um n s   a nd  i de nt i f i e r s .   W h e n e v e r   po s s i b l e ,   w e   a l i g n   t h e   v a r i a b l e   de f i ni t i o n s   w i t s t a nda r d i z e d   v o c a b ul a ri e s   (U M L S ,   S N O M E D   C T )   t o   f a c i l i t a t e   i nt e r o pe ra b i l i t y   a nd   r e us e   i o t h e s e t t i ngs .   T o   i l l us t ra t e   t h e   p r o c e s s ,   F i gu r e   1   b e l ow   o ut l i n e s   t h e   p r o po s e da t a - p r o c e s s i n p i pe l i n e .           F i gu r e   1 .   P r o po s e pi pe l i n e   f r o m   r a w   da t a   t o   c l i n i c a l   a l e r t       3. 2 .     P r e p r o c e s s i n g   B e fo r e   m o de l   t ra i ni n g ,   w e   s t a n d a r di z e   a l l   v a r i a b l e s   t o   e n s u r e   c o n s i s t e n t   u ni t s   (e . g. ,   m m H g,   m m o l / L ),   t h e s e gm e n t   e a c s t a y   i nt o   f i xe t i m e   w i n do w s   (e . g. ,   4 - h o ur  i n t e r v a l s ) .   W i t hi e a c w i n do w ,   w e   s um m a r i z e   t h e   a v a i l a b l e   m e a s u r e m e nt s   us i n g   s i m p l e   s t a t i s t i c s   s uc a s   m e a n,   m e di a n,   a n d   v a r i a b i l i t y ,   a n d   w e   c o n c a t e n a t e   t h e s e   w i n do w s   t o   ob t a i n   a   t e m po r a l   s e que n c e   d e s c r i b i n g   t h e   p a t i e nt   t ra j e c t o r y .   B e c a us e   m i s s i n da t a   a r e   c o m m o n   i c l i ni c a l   p r a c t i c e ,   w e   a ppl y   l i ght   i n t e r p o l a t i o a t   t h e   pa t i e n t   l e v e l   a nd  w e   ke e e xpl i c i t   i n di c a t o r s   s uc a s   t i m e   s i n c e   l a s t   m e a s u r e m e n t   t o   p r e s e r v e   i n f o r m a t i o a b o ut   m e a s u r e m e nt   f r e que n c y   [2].   T o   a c c o un t   f o r   h e t e r o ge n e i t y   a c r o s s   pa t i e n t s ,   w e   c o n s t r uc t   a   pa t i e nt - l e v e l   c o n t e xt   f o r   e a c h   s t a y   t h a t   i n c l ude s   de m o g r a p hi c s ,   c o m o r b i di t i e s ,   a c t i v e   t r e a t m e nt s ,   a n d   i ni t i a l   s e v e r i t y   [8] - [10] .   W e   r e pr e s e nt   t hi s   c o n t e xt   a s   a   s m a l l   g r a p w i t h   a   c e n t ra l   p a t i e nt   n o de   c o n n e c t e t o   n o de s   fo r   di a g n o s e s ,   t h e r a p i e s ,   a nd  c hr o n i c   ri s f a c t o r s   (e . g . ,   di a b e t e s ,   c hr o n i c   o b s t r uc t i v e   pul m o n a r y   di s e a s e   ( CO P D ) ).   A m ul t i l a y e r   pe r c e pt r o ( M L P )   e n c o de s   s t a t i c   p a t i e nt   f e a t u r e s   ( a ge ,   s e x),   w h i l e   l o o kup  e m b e ddi n gs   e n c o de   c l i ni c a l   c o de s ;   a   f e w   r o un ds   of  m e s s a ge   pa s s i n g   l e t   e a c h   n o de   a gg r e ga t e   i n f o r m a t i o n   f r o m   i t s   n e i g h b o ur s .   T h e   f i n a l   e m b e ddi n g   o f   t h e   pa t i e n t   n o de   s e r v e s   a s   a   c o nt e xt   v e c t o r ,   w h i c h   w e   c o m b i n e   w i t h   t h e   time - s e r i e s   r e p r e s e n t a t i o n   f r o m   t h e   s e que nt i a l   m o de l   t o   c o m put e   t h e   r i s k   s c o r e .   O n   t o o f   t h i s   s c o r e ,   w e   a ppl y   a   s m a l l   s e t   o f   c l i n i c a l   r ul e s   t o   a dj us t   a l e r t s   i s pe c i f i c   s i t u a t i o n s   (f o r   e xa m p l e ,   k n o w n   d i a b e t e s   w i t e xpe c t e d   h y pe r gl y c a e m i a ) ,   s o   t ha t   c o n t e xt   a n d   r u l e s   j o i n t l y   m o dul a t e   t h e   a l e r t   t hr e s h o l d.   F o o pe ra t i o na l   de pl oy m e n t ,   w e   de s i gn  t hi s   i n t e g ra t i o n   t o   b e   c o m pa t i b l e   w i t t h e   F H IR   s t a n da rd  [ 10].   Evaluation Warning : The document was created with Spire.PDF for Python.
In do n e s i a J   E l e c   E ng  &   Co m S c i     IS S N :   2 5 0 2 - 4 7 52       Cont e x t ual i z e d   c l i n i c a l   a nom al y   d e t e c t i on  w i t e x p l ai nabl e   A …  ( A m e l   E l k e t r ous s i )   617   3. 3 .     M o d e l s   fo r   an o m al d e t e c t i o n   W e   e v a l ua t e   s e v e r a l   c o m pl e m e n t a r y   a pp r o a c h e s :   -   T a b ul a a ut o e n c o de r :   o pe ra t e s   o n   s u m m a r i z e w i n do w s   s i m pl e   a n d   c o m put a t i o n a l l y   e f f i c i e n t .   -   L o n s h o r t - t e rm   m e m o r y   ( L S T M )   a ut o e n c o de r :   m o de l s   s e que n t i a l   dy n a m i c s ,   w e l l   s ui t e t o   t e m po ra l   e vo l ut i o n   [ 23].   -   T ra ns f o rm e r:   m o r e   po w e r f u l   f o l o ng - ra ng e   de pe nde n c i e s ,   e s p e c i a l l y   i hi g h - d i m e ns i o na l   s e t t i ngs   [ 15 ] ,   [ 16 ] .   A l l   t hr e e   s h a r e   t h e   s a m e   p ri n c i p l e :   t h e   m o de l   l e a rn s   w ha t   i s   n o rm a l   a n d   c o m put e s   t h e   r e c o n s t r uc t i o e rr o r.   T h e   g r e a t e r   t h e   e rr o r ,   t h e   m o r e   l i ke l y   t h e   w i n do w   i s   a n o m a l o us .   I m po rt a nt l y ,   t h e   de f i n i t i o n   o f   n o r m a l   i s   pa t i e nt - s pe c i f i c .     3. 4 .     C l i n i c a l   r u l e - b as e d   ad ju s tm e n ( c o n te x t u al i z ati o n )   A f t e r   c o m put i n g   a n o m a l y   s c o r e s ,   w e   r e f i n e   t h e m   w i t s i m pl e ,   a udi t a b l e   c l i n i c a l   r u l e s .   F o e xa m pl e ,   i n   di a b e t i c   pa t i e n t s   u nde r   t r e a t m e n t ,   w e   a t t e n ua t e   gl uc o s e - re l a t e a l e rt s .   F o r   c a r d i a c   p a t i e nt s   n o t   r e c e i v i n b e t a - b l oc ke r s ,   w e   e m pha s i z e   t a c h y c a r di a   a l e r t s .   T h e s e   rul e s   a r e   e a s i l y   a udi t a b l e   a n m o di f i a b l e ,   f o r m i n g   t h e   c o n t e xt   l a y e r   t h a t   m a ke s   a l e rt s   m o r e   p a t i e nt - s pe c i f i c   a nd  c l i ni c a l l y   r e l e v a nt .     3. 5 .     Ex p l ai n ab l e   a l e r ts   (X A I )   W e   a c c o m pa n y   e a c h   a l e rt   w i t h   a   c o n c i s e ,   c l i ni c i a n - r e a d a b l e   e xpl a n a t i o n .   T o   t h i s   e n d ,   w e   ge n e r a t e   a   c l i n i c i a n - f a c i ng  r e po rt   h i g hl i g h t i n g   t o c o nt r i b ut i ng  f a c t o rs ,   v a l ue s   a pp r o a c h i ng  t hr e s h o l ds ,   a n d   a   m i ni - gra p hi c a l   s um m a r y .   U s i n g   m e t h o ds   s uc a s   L IM E   a n d   S H A P ,   a nd  l e v e r a gi n g   a t t e n t i o m e c ha n i s m s   w h e n   a v a i l a b l e ,   w e   i ndi c a t e   w h i c h   f e a t u r e s   o t i m e   po i nt s   c o nt r i b ut e m o s t   s t r o n gl y   t o   t h e   a l e rt .     3. 6 .     C al i b r at i o n   an d   th r e s h o l d   s e l e c t i o n   A   m o de l   m a y   be   a c c ura t e   y e t   o ve r c o n f i de n t .   T o   a dd r e s s   t hi s ,   p r e d i c t e p r o b a b i l i t i e s   a r e   c a l i b r a t e (fo r   e xa m pl e ,   e n s u r i ng  t ha t   e v e n t s   p r e di c t e d   a t   70 p r o b a b i l i t y   o c c ur   a pp r o xi m a t e l y   s e v e n   t i m e s   o ut   o f   10).   W e   t h e n   s e l e c t   a n   o pe ra t i o n a l   t hr e s h o l d   (f o r   e xa m pl e   by   l i m i t i n g   t h e   num b e r   o f   a l e r t s   pe h o ur )   [17 ].   W e   us e   t h e   B ri e s c o r e   t o   a s s e s s   c a l i b r a t i o n,   r e l i a b i l i t y   di a g ra m s ,   a n d   t e c hni que s   s uc a s   t e m pe r a t u r e   s c a l i n g .   W e   s e l e c t e t e m pe r a t u r e   s c a l i ng  a s   a   po s t - h o c   c a l i b ra t i o n   m e t ho be c a us e   i t   i s   s i m p l e ,   s t a b l e ,   a n e m pi ri c a l l y   e ffe c t i ve   c o m pa r e t o   n o n - p a r a m e t r i c   a l t e rn a t i v e s   s uc h   a s   i s o t o n i c   r e g r e s s i o n.       3. 7 .     Ev al u ati o n   an d   v al i d ati o n   M o de l   e v a l ua t i o c o n s i de r s :   -   D i s c r i m i na t i o n:   R O C - A U a n d   P R - A U C.   -   Cl a s s i f i c a t i o n   m e t ri c s :   F 1 - s c o r e ,   s e n s i t i v i t y ,   s pe c i f i c i t y .   -   O pe r a t i o na l   r e l e v a n c e :   a l e r t   ra t e   a n d   a l e rt   l e a t i m e   ( h o w   l o ng  b e fo r e   a n   e v e n t   t h e   a l e r t   i s   r a i s e d)  [24] .   W e   c o n duc t   a b l a t i o s t ud i e s   (w i t h/ w i t h o ut   c o n t e xt ,   w i t h/ w i t h o ut   X A I)   t o   i de nt i fy   e a c h   c o m po n e n t ’s   c o n t ri b ut i o n.   W e   a l s o   a s s e s s   r o b us t n e s s   a n d   f a i rn e s s   t hr o ug h   s ub gr o up  a na l y s e s   by   a ge ,   s e x,   a n c o m o r b i di t y .   A o v e r v i e w   o f   t h e   p r o po s e f r a m e w o r i s   s h o w n   i n   F i gu r e   2.           F i gu r e   2 .   O v e r v i e w   of   t h e   p r o po s e f r a m e w o r s h o w i n t h e   m a i n   i n pu t s   (M IM I d a t a ,   p r e p r o c e s s i n g,     a n pa t i e n t   c o n t e xt )   a nd  t h e   o ut put s   (a n o m a l y   s c o r e s ,   c a l i b ra t e p r o b a b i l i t i e s ,   e xpl a i n a b l e   a l e r t s ,   a n d   e v a l ua t i o m e t r i c s )       4.   R ES U LTS   A N D   D I S C U S S I O N     4. 1 .     O v e r al l   p e r fo r m an c e   T a b l e   2   s u m m a ri z e s   t h e   pe r f o r m a n c e   o f   a l l   a p p r o a c h e s .   T h e   p r o po s e h y b r i d   m o de l ,   w hi c c o m b i n e s   s e que n t i a l   m o de l i ng,   pa t i e n t   c o nt e xt ,   X A I ,   a n p r o b a b i l i t y   c a l i b ra t i o n ,   c o n s i s t e n t l y   o ut pe r f o r m s   t h e   b a s e l i n e s   a c r o s s   di s c ri m i n a t i o n ,   c a l i b ra t i o n ,   a nd  c l a s s i f i c a t i o m e t ri c s .     Evaluation Warning : The document was created with Spire.PDF for Python.
                                IS S N :   2 5 0 2 - 4 7 52   In do n e s i a n   J   E l e c   E ng   &   Co m S c i V o l .   41 ,   N o .   2 F e b r ua r y   20 2 6 :   6 1 4 - 623   618   T a b l e   2 .   Co m p a r i s o b e t w e e n   t h e   di f f e r e n t   a p p r o a c h e s   M o d e l   A U C   RO C   A U C   P R   F1   S e n s   S p e c   E CE   Bri e r   Cl i n i c a l   t h r e s h o l d s   0 . 7 4   0 . 3 1   0 . 4 1   0 . 6 2   0 . 7 3   0 . 0 8 6   0 . 1 9 2   T a b u l a AE   0 . 7 9   0 . 3 8   0 . 4 8   0 . 6 6   0 . 7 7   0 . 0 7 2   0 . 1 7 3   L S T M   A E   0 . 8 3   0 . 4 4   0 . 5 3   0 . 6 9   0 . 8 0   0 . 0 6 1   0 . 1 6 1   T ra n s fo r m e (+ X A I)     0 . 8 6   0 . 4 9   0 . 5 8   0 . 7 2   0 . 8 3   0 . 0 5 3   0 . 1 5 1   P ro p o s e d   m o d e l   (+ C o n t e x t + X A I )   0 . 8 9   0 . 5 5   0 . 6 2   0 . 7 5   0 . 8 6   0 . 0 4 1   0 . 1 3 7       Co m pa r e w i t s i m pl e   c l i ni c a l   t hr e s h o l ds ,   t h e   p r o po s e m o de l   i n c r e a s e s   R O A U f r o m   0 . 74   t o   0. 89 ,   P R   A U f r o m   0 . 31   t o   0. 55,   a n d   F 1 - s c o r e   f r o m   0 . 41   t o   0. 62 ,   w h i l e   a l s o   i m p r o v i n g   o v e r   t h e   s t r o nge s t   de e l e a rn i ng  b a s e l i n e   (L S T M   A E i b o t h   P R   A U (0 . 44   →  0 . 55 )   a nd  F 1   (0 . 53     0 . 62) .   Ca l i b ra t i o a l s s h o w s   c l e a r   i m p r o v e m e n t s   i n   m o de l   pe r f o r m a n c e :   E C E   de c r e a s e s   f r o m   0 . 086   t o   0 . 041   a n d   t h e   b r i e s c o r e   f r o m   0. 192   t o   0 . 137 ,   i n d i c a t i n g   p r o b a b i l i t i e s   t h a t   b e t t e m a t c h   o b s e r v e e v e n t   f r e que n c i e s   a nd  a r e   m o r e   r e l i a b l e   f o r   ri s s t r a t i f i c a t i o a n d   t hr e s h o l d   s e l e c t i o n .   B o o t s t r a a na l y s i s   w i t 1, 000   r e s a m p l e s   c o n f i rm e t ha t   t h e   R O A U C   i m p r o v e m e n t   o v e r   t h e   b e s t   b a s e l i n e   i s   s t a t i s t i c a l l y   s i g n i f i c a n t ,   a s   t h e   9 5%   c o n f i de n c e   i n t e r v a l   fo r   t h e   A U di f f e r e n c e   e xc l ude s   z e r o .   F i gu r e   3   s h o w s   h o w   P R   A U a n d   F i m p r o v e   a s   w e   gra du a l l y   a dd  c o n t e xt ,   X A I,   a nd  c a l i b ra t i o t o   t h e   m o de l .           F i gu r e   3 .   Co m p a r a t i v e   pe r f o r m a n c e   o f   m o de l s       4. 2 .     C o n tr i b u ti o n   o e ac h   c o m p o n e n (ab l ati o n   s tu d y )   T o   qua nt i fy   t h e   c o n t r i b ut i o o f   e a c h   m o dul e ,   w e   c o n duc t e a a b l a t i o s t udy   i n   w hi c h   w e   s e l e c t i ve l y   r e m o ve c o n t e xt ,   e xpl a n a t i o n s ,   o c a l i b r a t i o f r o m   t h e   f ul l   m o de l .   T a b l e   s u m m a r i z e s   t h e   r e s ul t s .   R e m o v i n t h e   c o nt e xt   m o dul e   r e duc e s   R O A U (0. 89    0 . 86)  a n d   F ( 0. 62     0. 58),   b ut   m o r e   i m po rt a nt l y   i n c r e a s e s   t h e   a l e rt   r a t e   f r o m   0. 2 t o   0. 31  a l e r t s   pe r   h o u r.   T h i s   c o r r e s po n ds   t o   r o ug h l y   a   o n e - t h i rd  t o   o n e - h a l f   i n c r e a s e   i a l e rt   b ur de n,   w hi l e   de l i v e r i ng   s l i g ht l y   w o r s e   di s c r i m i na t i o n.   I p r a c t i c e ,   t h e   c o n t e xt   m o dul e   a c t s   a s   a   po w e r f ul   f i l t e t ha t   s upp r e s s e s   c l i n i c a l l y   uni n f o r m a t i v e   a l a rm s   w hi l e   p r e s e r v i n g   s e n s i t i v i t y .       T a b l e   3 .   R e s ul t s   a f t e r   r e m o v a l   o f   di ff e r e n t   m o dul e s   Co n f i g u ra t i o n   A U C   F1   A l e rt s / h   O u m o d e l     0 . 8 9   0 . 6 2   0 . 2 1     Co n t e x t   0 . 8 6   0 . 5 8   0 . 3 1     X A I   ( w i t h o u t   a d j u s t m e n t )   0 . 8 5   0 . 5 6   0 . 2 9     Ca l i b ra t i o n   0 . 8 6   0 . 5 9   0 . 2 7       E xc l udi ng   X A I   (c o n f i gu r a t i o   X A I )   y i e l ds   a A U o f   0. 85   a n d   a F 1 - s c o r e   o f   0. 56.   T h e s e   r e s ul t s   s h o w   t h a t   e xpl a n a t i o n s   a r e   n o t   t h e   m a i d r i v e o n u m e r i c a l   pe r f o r m a n c e .   T h e i c o nt r i b ut i o i s   qua l i t a t i v e :   t h e y   i m p r o v e   i n t e r p r e t a b i l i t y ,   a udi t a b i l i t y ,   a n t rus t ,   w h i c h   a r e   e s s e n t i a l   f o r   a do pt i o n ,   go v e r na n c e ,   a n c l i n i c a l   r e v i e w   of   a l e rt s .   F i na l l y ,   r e m o v i n g   c a l i b ra t i o (c o n f i gu r a t i o   Ca l i b ra t i o n ha s   o n l y   a   m o de s t   e f fe c t   o F 1   (0 . 62   →  0. 5 9)  b ut   c l e a r l y   de gr a de s   p r o b a b i l i t y   qua l i t y .   B e fo r e   c a l i b r a t i o n,   t h e   m o de l   e xh i b i t s   a   hi g h e r   E C E   (≈ 0. 0 9)  a n a   w o r s e   b r i e r   s c o r e   (≈0 . 16) ,   w h e r e a s   a f t e t e m pe r a t u r e   s c a l i n g   E C E   de c r e a s e s   t o   a r o u n 0 . 03   a n d   t h e   b r i e s c o r e   i m p r o v e s   t o   a r o u n 0 . 14 .   I o t h e w o r ds ,   c a l i b ra t i o n   m a ke s   p r e di c t e p r o b a b i l i t i e s   m uc h   m o r e   a l i g n e w i t h   o b s e r v e e ve n t   f r e que n c i e s   a n d   t h e r e f o r e   m o r e   r e l i a b l e   f o r   p r i o r i t i z a t i o n   a n d   t hr e s h o l di n g .   Evaluation Warning : The document was created with Spire.PDF for Python.
In do n e s i a J   E l e c   E ng  &   Co m S c i     IS S N :   2 5 0 2 - 4 7 52       Cont e x t ual i z e d   c l i n i c a l   a nom al y   d e t e c t i on  w i t e x p l ai nabl e   A …  ( A m e l   E l k e t r ous s i )   619   F i gu r e   4   c o n f i rm s   t h e s e   f i n d i n gs :   w i t c a l i b r a t i o n ,   t h e   r e l i a b i l i t y   c ur v e   m o v e s   c l o s e r   t o   t h e   i de n t i t y   l i n e ,   i n di c a t i n g   a   t i g ht e m a t c b e t w e e n   p r e di c t e a n d   o b s e r v e r i s ks .           F i gu r e   4 .   C a l i b ra t i o n   d i a g r a m       4. 3 .     A l e r t   b u r d e n   W e   qua n t i fy   a l e r t   b ur de by   t h e   n u m b e r   o f   a l e rt s   pe h o ur  a n d   t h e   p r o po r t i o n   o f   t i m e   s pe n t   u nde a l a rm .   W i t c o nt e xt u a l i z a t i o n ,   t h e   p r o po s e m o de l   ge n e ra t e s   0 . 21   a l e r t s / h ,   c o m pa r e d   w i t 0 . 31   a l e r t s / w i t h o ut   c o n t e xt u a l i z a t i o n.   T hus ,   a ddi ng  c o n t e xt   r e duc e s   t he   a l e rt   r a t e   by   a bo ut   o n e - t h i rd  w h i l e   p r e s e r v i ng  s i m i l a o b e t t e r   d i s c ri m i n a t i v e   pe r f o r m a n c e .   F r o m   a   c l i n i c a l   pe r s pe c t i v e ,   t h i s   r e duc t i o i s   c ri t i c a l :   f e w e r   al a rm s   m e a l e s s   a l a rm   f a t i g ue ,   f e w e r   i n t e rr u pt i o n s ,   a n a   hi g h e l i ke l i h o o t ha t   e a c h   a l e r t   r e c e i v e s   a pp r o pri a t e   a t t e n t i o n.   T h e   m o de l   t h e r e f o r e   o pt i m i z e s   n o t   o n l y   s t a n da rd  s t a t i s t i c a l   m e t ri c s   b ut   a l s o   a   ke y   o pe r a t i o n a l   c o n s t ra i nt   i i nt e n s i v e   c a r e .     4. 4 .     A l e r t   l e ad   t i m e   O ur  s y s t e m   ge n e r a t e s   e a r l y   w a rn i n gs   b e f o r e   t h e   i n de e v e n t   (e . g. ,   s e ps i s ,   a c ut e   ki d n e y   i n j u r y ).   F o r   e a c h   e v e n t ,   w e   c o m put e   t h e   l e a d - t i m e   b e t w e e n   t h e   f i r s t   hi gh - ri s a l e r t   a n t h e   o c c ur r e n c e   of   t h e   c l i n i c a l   o ut c o m e ,   a nd   s um m a ri z e   i t   v i a   t h e   m e di a a n d   i n t e r qu a rt i l e   r a nge   (IQ R ).   A   l o nge l e a d - t i m e ,   u nde a   c o n t r o l l e d   a l e rt   b u r de n ,   i n c r e a s e s   t h e   c l i n i c a l   us e f ul n e s s   o t h e   s y s t e m   by   a l l ow i n g   p r o a c t i v e   i n t e r v e n t i o n s   i n s t e a d   o f   l a t e ,   c o n f i rm a t o r y   a l a rm s .   I o ur  e xpe r i m e n t s ,   t he   m o de l   c o n s i s t e nt l y   pr o duc e s   m e a n i ngf ul   l e a t i m e s   b e f o r e   c r i t i c a l   e v e n t s ,   de m o n s t ra t i n g   i t s   po t e n t i a l   t o   s uppo r t   a nt i c i pa t o r y   c l i ni c a l   de c i s i o n - m a ki n g   ra t h e r   t ha n   m e r e l y   f l a ggi n g   a l r e a dy   obv i o us   de t e r i o ra t i o n s .     4. 5 .     F ai r n e s s   a c r o s s   s u b gr ou p s   W e   e v a l ua t e d   pe r f o r m a n c e   a c r o s s   ke y   c l i ni c a l   s ub gr o ups   t o   a s s e s s   f a i rn e s s   a n d   s t a b i l i t y :   a ge   ( < 65   v s .   ≥65  y e a r s a n di a b e t e s   s t a t us   ( di a b e t i c   v s .   n o n - di a b e t i c ).   T a b l e   s u m m a r i z e s   t h e   r e s ul t s .   P e r f o r m a n c e   r e m a i n s   h i g a n d   s t a b l e   a c r o s s   a l l   g r o ups ,   w i t A U v a l ue s   b e t w e e n   0. 88,   0 . 90 ,   a n F1 - s c o r e s   b e t w e e n   0 . 60   a n d   0 . 64 .   D i f f e r e n c e s   i f a l s e   po s i t i v e   a n d   f a l s e   n e g a t i v e   ra t e s   a r e   s m a l l   a n d   n o n - s y s t e m a t i c ,   w i t | ΔF P R |   a n | ΔF N R |   ≤  0 . 02 .   T h e s e   f i ndi n gs   i n d i c a t e   t h a t   n o   s ub gr o up  i s   di s p r o po rt i o na t e l y   di s a dv a n t a ge a n t h a t   t h e   m o de l   m a i nt a i n s   a n   a pp r o xi m a t e l y   b a l a n c e e rr o p r o f i l e   a c r o s s   po pul a t i o n s .   If   a   c l i n i c a l l y   un j us t i f i e di s c r e pa n c y   w e r e   t o   e m e r ge   i n   p r a c t i c e ,   t h e   pi pe l i n e   c a a pp l y   c o n t e xt - s pe c i f i c   a dj us t m e n t s   a nd   s ub gr o up   c a l i b r a t i o n   t o   f urt h e m i t i ga t e   po t e nt i a l   b i a s e s   a n d   s uppo r t   f a i us e   i h e t e r o ge n e o us   ICU   po pul a t i o n s .       T a b l e   4 .   F a i rn e s s   a c r o s s   s ub gr o ups   G ro u p   P re v a l e n c e   A U C   F1   Δ F P R   Δ F N R   < 6 5   y e a r s   0 . 5 2   0 . 9 0   0 . 6 4   -   -   6 5   y e a r s     0 . 4 8   0 . 8 8   0 . 6 0   + 0 . 0 1   + 0 . 0 2   D i a b e t i c   0 . 2 2   0 . 8 9   0 . 6 3   + 0 . 0 0   + 0 . 0 1   N o t   d i a b e t i c   0 . 7 8   0 . 8 9   0 . 6 2   + 0 . 0 0   + 0 . 0 1       4. 6 .     C o n c r e t e   e x am p l e s   an d   e x p l an ati o n s   (X A I )   F o r   e a c a l e r t ,   t h e   s y s t e m   ge n e ra t e s   a   c o n c i s e   e xpl a n a t i o r e po r t   t ha t   i n c l ude s :   -   T h e   t o p - c o nt r i b ut i ng  v a ri a b l e s ,   e xt ra c t e us i n S H A P / L IM E ;   Evaluation Warning : The document was created with Spire.PDF for Python.
                                IS S N :   2 5 0 2 - 4 7 52   In do n e s i a n   J   E l e c   E ng   &   Co m S c i V o l .   41 ,   N o .   2 F e b r ua r y   20 2 6 :   6 1 4 - 623   620   -   T h e   m o s t   i n f l ue nt i a l   t i m e   w i n do w s   i t h e   r e c e nt   p a t i e nt   t r a j e c t o r y ;   -   T h e   a c t i v a t e c o n t e xt   r u l e s   t ha t   i n f l ue n c e t h e   f i n a l   a n o m a l y   s c o r e   o a l e rt   t hr e s h o l d .   Cl i ni c i a f e e db a c i n di c a t e s   t ha t   t h e s e   e xpl a n a t i o n s   i m p r o v e   t h e   u n de r s t a n d a b i l i t y   a n d   pe r c e i v e d   c r e di b i l i t y   of   a l e rt s   a n d   h e l p   w i t p ri o r i t i z a t i o n.   A l t h o ug X A do e s   n o t   s i g ni f i c a n t l y   i n c r e a s e   A U o F 1 ,   i t   i s   t r a n s f o r m a t i v e   f o r   c l i ni c a l   a do pt i o a n d   a udi t i n g :   t hi s   de s i gn  t r a n s f o r m s   t h e   m o de l   f r o m   a   b l a c k - b o x   s c o r i n g   e n gi n e   i nt o   a   t r a n s pa r e n t   de c i s i o n - s uppo r t   t o o l   t ha t   c l i n i c i a n s   c a i n s pe c t ,   d i s c us s ,   a nd  r e f i n e .     4. 7 .     R o b u s tn e s s   an d   s e n s i ti v i ty   W e   pe r fo r m e a   s e ri e s   of   s t r e s s   t e s t s   t o   a s s e s s   t h e   r o b us t n e s s   of   t h e   m o de l   t o   r e a l i s t i c   pe r t u r b a t i o n s ,   i n c l udi ng:   -   S i m ul a t e d   m i s s i n g   da t a ,   -   A dde n o i s e   t o   i n pu t   v a ri a b l e s ,   -   T e m po ra l   s h i f t s   i i n put   s e que n c e s .   O v e r a l l ,   t h e   m o de l   m a i n t a i n e s t a b l e   pe r f o r m a n c e   u n de r   t h e s e   pe r t u r b a t i o n s ,   w i t h   v a r i a t i o n s   ge n e ra l l y   w i t hi n   a   f e w   pe r c e n t a ge   po i n t s   o f   b a s e l i n e   m e t ri c s .   I n   s c e na r i o s   w h e r e   w e   ob s e r v e l oc a l i z e de gr a da t i o n,   w e   a pp l i e t a r ge t e r e t r a i n i ng  a n rul e   a dj us t m e n t s   t o   r e s t o r e   pe r f o r m a n c e   o r   l o c a l   r e c a l i b r a t i o w a s   s uff i c i e n t   t o   r e s t o r e   pe r f o r m a n c e .   T h e s e   r e s ul t s   s h o w   t ha t   w e   c a m a i nt a i a nd   a d a p t   t h e   s y s t e m   o v e r   t i m e   a s   c l i n i c a l   p r a c t i c e ,   da t a   c o l l e c t i o n   p a t t e rn s ,   a n d   p a t i e nt   po pul a t i o n s   e v o l ve .     4. 8 .     P o r tab i l i t y   W e   a l s o   e v a l ua t e t h e   po r t a b i l i t y   of   t h e   m o de l   a c r o s s   d i f fe r e nt   t i m e s   a n d   I CU   w a r ds   w i t h i t h e   M IM IC  d a t a b a s e .   P e r f o r m a n c e   r e m a i n e c o n s i s t e nt   a c r o s s   uni t s ,   w i t a n y   di f f e r e n c e s   l a r ge l y   a t t ri b ut a b l e   t o   v a r i a t i o n s   i c o h o rt   c o m po s i t i o n   ra t h e t ha n   m o de l   i n s t a b i l i t y .   T h i s   s t a b i l i t y   a c r o s s   s e t t i ngs   s ugge s t s   t ha t   t h e   m o de l   c a pt u r e s   r o b us t   p h y s i o l o gi c a l   pa t t e rn s   r a t h e t ha o v e r f i t t i n g   t o   a   s i ngl e   w a r d   o t i m e   w i n do w .   I t   s uppo r t s   t h e   f e a s i b i l i t y   o f   s c a l i n t h e   a pp r o a c h   t o   o t h e r   u ni t s   o i n s t i t ut i o n s ,   s ub j e c t   t o   a pp r o p ri a t e   l o c a l   v a l i da t i o a nd  c a l i b r a t i o n   [25] .     4. 9 .     D i s c u s s i o n   O ur  r e s ul t s   s h o w   t ha t   t h e   p r o po s e h y b r i d - a l e r t i n g   f r a m e w or k   do e s   m o r e   t ha n   p r o v i de   i n c r e m e n t a l   ga i n s   o v e r   e xi s t i n g   a pp r o a c h e s .   Co m p a r e w i t h   c l i ni c a l   t hr e s h o l ds   a n s t r o n de e l e a rni n g   b a s e l i n e s ,   i t   a c hi e v e s   s ub s t a n t i a l   i m p r o v e m e n t s   i R O A U C,   P R   A U C,   a n d   F 1 - s c o r e ,   w hi l e   r e duc i n g   t h e   o v e r a l l   a l e rt   b ur de b y   r o ughl y   o n e   t hi r d .   F o c l i ni c i a n s ,   t hi s   c o m b i n a t i o n - f e w e r   a l e r t s   b ut   w i t hi g h e r   r e l e v a n c e ,   di r e c t l y   a dd r e s s e s   a l a rm   f a t i g ue   w h i l e   p r e s e r v i n e a rl y   de t e c t i o n   c a p a b i l i t y .   A   ke y   c o n t r i b ut i o n   o f   o ur   w o r i s   t h e   e m p ha s i s   o p r o b a b i l i t y   c a l i b r a t i o n .   M a n y   h i g h - pe r f o r m i n g   m o de l s   i n   c ri t i c a l   c a r e   o ut put   s c o r e s   t h a t   a r e   d i f f i c ul t   t o   i nt e r p r e t   a s   r i s ks .   B y   e xpl i c i t l y   c a l i b r a t i n g   p r e di c t e d   pr o b a b i l i t i e s ,   w e   ob t a i n   ri s e s t i m a t e s   t ha t   b e t t e r   m a t c h   o b s e r v e e v e n t   f r e que n c i e s   a nd  a r e   e a s i e r   t o   us e   fo r   t hr e s h o l s e l e c t i o n,   r e s o ur c e   a l l o c a t i o n,   a n c o m m u ni c a t i o o f   r i s k.   T hi s   m a ke s   i t   m o r e   n a t u r a l   t o   i n t e g r a t e   t h e   m o de l   i n t o   e xi s t i n g   de c i s i o n - m a k i n g   p r o c e s s e s .   T h e   f ra m e w o r a l s o   m a i nt a i n s   r e l a t i v e l y   s t a b l e   a n d   f a i pe r f o r m a n c e   a c r o s s   m a j o pa t i e n t   s ub gr o ups   a n u n de r   r o b us t n e s s   c h e c ks .   A l t h o ug w e   c a nn o t   e xc l ude   a l l   s o u r c e s   of   b i a s ,   t h e   c o m b i na t i o of  c o n t e xt ua l i z a t i o n,   c a l i b ra t i o n,   a n m o ni t o r i n g   h e l p s   l i m i t   pe r f o r m a n c e   di s pa ri t i e s .   I p a r t i c ul a r,   t h e   c o n t e xt ua l   l a y e r   a dj us t s   a n o m a l y   s c o r e s   b a s e o c hr o n i c   c on d i t i o n s   a nd   t r e a t m e n t   p r o f i l e s ,   r e duc i n g   o b v i o us   f a l s e   po s i t i v e s   w h e a b n o r m a l   v a l ue s   a r e   c l i ni c a l l y   e xpe c t e d.   W e   i n t e g ra t e   X A a s   a   c o r e   c o m po n e n t   ra t h e t ha n   t r e a t i n i t   a s   a n   a f t e r t h o ug ht .   F o r   e a c h   a l e rt ,   t h e   s y s t e m   pr o v i de s   c o n c i s e   e xpl a na t i o n s   hi g h l i g ht i n g   ke y   v a r i a b l e s   a n i n f l ue nt i a l   t i m e   w i ndo w s .   T hi s   t r a n s f o r m s   t h e   m o de l   f r o m   a   b l a c k - b o s c o r i ng  e ngi n e   i nt o   a   t r a n s p a r e n t   de c i s i o n - s uppo rt   t o o l   t ha t   c l i n i c i a n s   c a i n s pe c t ,   d i s c us s ,   a nd  r e f i n e ,   i m p r o v i n g   t r us t ,   a u di t a b i l i t y ,   a n d   t h e   a b i l i t y   t o   r e c o n c i l e   m o de l   o ut put   w i t h   c l i n i c a l   i nt u i t i o n .   F i na l l y ,   w e   e m b e t h e   m o de l   i a   go v e r na n c e - o r i e n t e d   p i pe l i n e   t ha t   i n c l ude s   d ri f t   m o n i t o ri n g ,   f a i rn e s s   c h e c ks ,   l o ggi n g ,   a nd  r e c a l i b r a t i o n   p r o c e dur e s ,   a n w e   a l i g o ur  r e po r t i n w i t h   e m e r g i n c l i n i c a l   A I   s t a n d a r ds .   I t h e   b r o a de l a n ds c a pe   o f   de c i s i o n   s up po r t ,   o ur  a pp r o a c s i t s   b e t w e e n   p u r e l y   b l a c k - bo m o de l s   a n s i m p l e   r ul e - b a s e s y s t e m s :   i t   c o m b i n e s   s e que n t i a l   de e l e a rn i ng  w i t h   e xp l i c i t   pa t i e n t   c o n t e xt ,   i n t e g ra t e e xpl a i na b i l i t y ,   a n d   c a l i b r a t e o ut put s ,   o f fe r i n g   a   p ra c t i c a l   f o un d a t i o f o r   A I - b a s e a l e rt i n g   i i nt e n s i v e   c a r e .     4. 9 . 1 R u n ti m e   an d   c o m p u tati o n al   c o m p l e x i ty   A l t h o ug h   t h e   p r o po s e f r a m e w o r c o m b i n e s   s e ve r a l   c o m po n e n t s   (s e que n t i a l   b a c kb o n e ,   c o n t e xt ua l   l a y e r ,   X A I,   a n d   c a l i b r a t i o n ),   i t s   c o m put a t i o na l   c o s t   r e m a i n s   c o m pa t i b l e   w i t h   n e a r   r e a l - t i m e   de pl o y m e n t   i a ICU   s e t t i ng.   T h e   c o r e   s e que nt i a l   m o de l s   (a u t o e n c o de r s   a n T r a n s f o r m e r )   h a v e   a   r u nt i m e   t ha t   s c a l e s   a pp r o xi m a t e l y   l i n e a r l y   w i t h   t h e   l e n gt o f   t h e   i n pu t   s e que n c e   a n d   t h e   n u m b e r   o f   v a r i a b l e s   (O   (T ·d)) ,   a nd  t h e   Evaluation Warning : The document was created with Spire.PDF for Python.
In do n e s i a J   E l e c   E ng  &   Co m S c i     IS S N :   2 5 0 2 - 4 7 52       Cont e x t ual i z e d   c l i n i c a l   a nom al y   d e t e c t i on  w i t e x p l ai nabl e   A …  ( A m e l   E l k e t r ous s i )   621   c o n t e xt ua l   a dj us t m e n t s   a r e   i m p l e m e nt e a s   l i g h t w e i ght   f e e d - fo r w a r d   o pe r a t i o n s   o p r e c o m put e d   pa t i e n t   pr o f i l e s .   W e   pe r fo r m   p r o b a b i l i t y   c a l i b r a t i o n   o n c e   pe r   m o de l   a f t e r   t ra i ni n g ,   s o   i t   do e s   n o t   a f f e c t   i n f e r e n c e   l a t e n c y .   W e   c o m put e   e xpl a i na b i l i t y   m e t h o ds   (S H A P ,   L IM E ,   a nd  a t t e nt i o v i s ua l i z a t i o n s o n l y   fo r   t r i g ge r e d   a l e r t s   a n r u t h e m   a s y n c hr o n o us l y   o r   a t   a   l o w e r   f r e que n c y ,   w h i c h   l i m i t s   t h e i i m pa c t   o n   o v e r a l l   t hr o ug h p ut .   In  p ra c t i c e ,   t hi s   de s i g a l l o w s   t h e   s y s t e m   t o   upda t e   r i s k   s c o r e s   a n d   a l e rt s   f r e que n t l y   e n o ugh  t o   s uppo rt   c o n t i n uo us   m o n i t o r i ng  w i t h o ut   i m po s i n g   p r o h i b i t i v e   c o m put a t i o n a l   r e qu i r e m e n t s .     4. 9 . 2 .     Li m i tat i o n s     D e s pi t e   t he s e   p r o m i s i ng  r e s ul t s ,   t hi s   s t udy   ha s   s e v e r a l   l i m i t a t i o n s .   F i rs t ,   w e   b a s e   o u r   a na l y s i s   o r e t r o s pe c t i v e   d a t a   f r o m   a   s i n g l e   I CU   da t a b a s e   (M IM I C - I II / IV a nd  c o n d uc t   a l l   e xpe ri m e n t s   o f f l i n e ,   s o   w e   h a v e   n o t   y e t   e v a l u a t e r e a l - t i m e   pe r f o rm a n c e   o r   i t s   i m p a c t   o n   c l i ni c a l   w o r kf l o w s   a nd  pa t i e n t   o ut c o m e s .   S e c o n d ,   w e   p r i m a ri l y   e v a l u a t e   t he   m o de l   o a   l i m i t e d   s e t   o f   de t e r i o ra t i o e v e n t s   (e . g . ,   s e ps i s ,   a c u t e   k i d n e y   i n j u r y ),   a nd   w e   do   n o t   y e t   k n o w   h o w   w e l l   t h e   s a m e   a r c hi t e c t u r e ,   t hr e s h o l ds ,   a n d   c o n t e xt ua l   rul e s   ge n e ra l i z e   t o   o t h e e n d po i nt s   o r   c a r e   s e t t i ngs .   T hi r d ,   a l t h o ug w e   a s s e s s   f a i rne s s   a c r o s s   a ge   a nd  di a b e t e s   s t a t us ,   w e   s t i l l   n e e d   a   b r o a de a na l y s i s   a c r o s s   a d di t i o na l   de m o g ra p hi c   a nd  c l i ni c a l   di m e n s i o n s   t o   b e t t e c ha ra c t e ri z e   po t e n t i a l   b i a s e s .   W e   a l s o   t u ne   t h e   c o nt e xt ua l   rul e s   a n d   c a l i b ra t i o p r o c e du r e s   o t h e   s a m e   o v e ra l l   d a t a   s o u r c e ,   s o   w e   m a y   n e e t o   a da pt ,   r e - v a l i da t e ,   a nd  r e c a l i b r a t e   t h e   s y s t e m   w he w e   de pl o y   i t   i n   ne w   i n s t i t u t i o n s   w i t di f f e r e nt   c a s e   m i x ,   do c um e nt a t i o n   p ra c t i c e s ,   o m o ni t o ri n g   p r o t o c o l s .   I a dd i t i o n ,   w e   do   n o t   pe r f o rm   e x t e n s i v e   f o r m a l   h y po t h e s i s   t e s t i n g   a c r o s s   a l l   m o de l   c o m p a ri s o n s   (e . g. ,   f o a l l   d i f f e r e n c e s   i A U o F 1 ) ,   a nd   s t a t i s t i c a l   a na l y s e s   a re   l i m i t e d   t o   b o o t s t ra p - b a s e d   c o n f i de n c e   i nt e r v a l   e s t i m a t i o f o s e l e c t e d   ke y   c o m p a ri s o n s ,   s o   r e a de r s   s h o u l d   i nt e r p re t   pe r f o rm a n c e   di f f e r e n c e s   a s   i n d i c a t i v e   ra t h e t ha s t a t i s t i c a l l y   c o n f i rm e d .   F i na l l y ,   w e   do   n o t   c a rr y   o ut   a   de t a i l e c a s e - l e v e l   e rr o a na l y s i s   o f   t y pi c a l   f a l s e   p o s i t i v e s   a nd  f a l s e   ne g a t i v e s   w i t c l i ni c i a ns ,   n o a   s y s t e m a t i c   b e n c h m a rk i n g   o f   r u nt i m e   pe r f o rm a nc e   o c o m p ut a t i o n a l   c o s t ;   w e   l e a v e   b o t a   q u a l i t a t i v e   e rr o a na l y s i s   a nd   a   m o r e   de t a i l e d   s t udy   o f   l a t e n c y ,   s c a l a b i l i t y ,   a nd  r e s o u r c e   us a ge   f o f u t u r e   w o r k .     4. 9 . 3 F u t u r e   w o r k     F u t u re   w o rk   c o u l d   e x t e nd   t hi s   a p p ro a c i s e v e ra l   d i re c t i o ns .   F i rs t ,   s c a l i ng   u p   p e rs o na l i z a t i o b y   i n t e g ra t i ng   ri c he l o ng i t u d i n a l   t ra j e c t o ri e s   a nd   c o m o rb i d i t y   p ro f i l e s   c o u l d   e na b l e   f i ne ri s k   s t ra t i f i c a t i o a nd   m o re   t a i l o re d   a l e rt s .   S e c o nd ,   f e de ra t e d   l e a r ni ng   c o u l d   he l p   p re s e rv e   d a t a   p ri v a c y   w hi l e   e na b l i ng   t r a i ni ng   a nd   a d a p t a t i o a c ro s s   m u l t i p l e   i ns t i t u t i o ns .   T hi rd ,   hu m a n - A I   i nt e r a c t i o s t u d i e s   s ho u l d   i nv e s t i g a t e   ho w   c l i ni c i a ns   i n t e rp re t   a nd   a c t   o A I - g e ne ra t e d   e x p l a na t i o ns   i re a l   t i m e .   F o u rt h,   c o nt i nu o u s   v a l i d a t i o p i p e l i ne s   w i t re a l - w o rl d   f e e db a c k   l o o ps   c o u l d   dy na m i c a l l y   a d j u s t   t h re s ho l d s ,   ru l e s ,   a nd   c a l i b r a t i o n   a s   p r a c t i c e   a nd   p o p u l a t i o ns   e v o l v e .   F i na l l y ,   m o r e   s y s t e m a t i c   e v a l ua t i o n s   o f   e t hi c s   a nd  f a i rn e s s   w i l l   b e   e s s e n t i a l   t o   e n s u r e   e qu i t a b l e   b e h a v i o ur   a c r o s s   pa t i e n t   s ub gr o ups .   I n   s u m m a r y ,   o ur   h y b r i a pp r o a c h   n o t   o n l y   i m p r o v e s   t h e   c l i n i c a l   r e l e v a n c e   a n i n t e r p r e t a b i l i t y   of   a l e r t s   b ut   a l s o   l a y s   t h e   g r o un dw o r f o r   t r us t w o r t h y ,   c o n t i n uo us l y   m o n i t o r e d,   a n go ve rn a n c e - a l i g n e d   A s y s t e m s   i h e a l t h c a r e .         5.   C O N C LU S I O N   In   t h i s   pa pe r,   w e   pr o po s e a   h y b r i d - a l e rt i n g   f r a m e w o r t h a t   c o m b i n e s   s e que nt i a l   m o de l i ng,   p a t i e nt   c o n t e xt ,   X A I ,   a nd  p r o b a b i l i t y   c a l i b r a t i o n   t o   s uppo r t   e a rl y   de t e c t i o n   o f   c l i n i c a l   de t e r i o ra t i o n   i n   i nt e n s i v e   c a r e .   Co m pa r e w i t c l i n i c a l   t hr e s h o l ds   a n d   de e p   l e a rni n g   b a s e l i n e s ,   t h e   p r o po s e m o de l   a c h i e v e h i g h e di s c r i m i na t i o n,   i m p r o v e pr e c i s i o n r e c a l l   pe r f o r m a n c e ,   a nd   b e t t e r   c a l i b r a t i o n,   w h i l e   r e duc i n t h e   a l e r t   ra t e   by   a ppr o xi m a t e l y   o n e   t h i r d .   T h e s e   i m p r o v e m e n t s   t ra n s l a t e   i nt o   f e w e r   b ut   m o r e   i n f o r m a t i v e   a l e rt s ,   i m p r o v e d   ri s s t ra t i f i c a t i o n   a t   t h e   b e ds i de ,   a n d   a   l o w e r   r i s k   o f   a l a rm   f a t i gue   f o r   c l i ni c a l   s t a f f .   T h e   w o r m a ke s   t hr e e   m a i c o n t r i b ut i o n s .   F i r s t ,   i t   s h o w s   t h a t   i n t e g ra t i ng  s e que n t i a l   m o de l s   w i t c o n t e xt u a l   i n f o r m a t i o n ,   e xpl a n a t i o m e c h a ni s m s ,   a n d   p r o b a b i l i t y   c a l i b r a t i o n   w i t hi a   s i ngl e   a r c hi t e c t u r e   c a s i m ul t a n e o us l y   i m p r o ve   di s c r i m i na t i o n,   c a l i b r a t i o n ,   a n d   a l e rt   b u r de r e l a t i v e   t o   b ot h   c l i n i c a l   t hr e s h o l ds   a n d   s t r o n g   de e l e a rni n g   b a s e l i n e s .   S e c o n d,   i t   de m o n s t r a t e s   t ha t   c o n t e xt u a l i z a t i o a n d   c a l i b ra t i o c a n   r e duc e   a l a r m   f a t i gue   w h i l e   pr e s e r v i n g   e a r l y   de t e c t i o n   a nd  s t a b l e   pe r f o r m a n c e   a c r o s s   ke y   pa t i e n t   s ub gr o ups ,   y i e l di n g   r i s k   s c o r e s   t ha t   a r e   bo t n u m e ri c a l l y   r e l i a b l e   a nd   o pe r a t i o na l l y   us e f ul .   T h i rd,   i t   e m b e ds   t h e   m o de l i n g   a pp r o a c h   i a   go v e rn a n c e - o r i e nt e d   pi pe l i n e   t ha t   i n c l ude s   d ri f t   m o n i t o r i n g ,   f a i rn e s s   c h e c ks ,   a l e r t   l o ggi n g,   a n d   a l i g nm e nt   w i t e m e r gi ng  c l i n i c a l   A r e po r t i n p r a c t i c e s ,   po s i t i o n i ng  t h e   s y s t e m   a s   a   re a l i s t i c   c a ndi d a t e   f o r   de pl oy m e n t   i n   c r i t i c a l   c a r e   e n v i r o n m e n t s .   B e y o n p r e di c t i v e   pe r f o r m a n c e ,   w e   de s i gn e d   t h e   s y s t e m   w i t h   r e a l - w o r l d   de pl oy m e n t   i m i nd.   F o e a c h   a l e r t ,   w e   pr o v i de   a n   i n t e r p r e t a b l e   e xpl a na t i o n .   W e   m o n i t o m o de l   b e h a v i o r   o v e r   t i m e   a nd  i nt e g r a t e   m a i n t e n a n c e   p r o c e dur e s   s uc h   a s   r e c a l i b ra t i o a n d   r u l e   u pda t e s   i n t o   t h e   pi pe l i n e .   O v e r a l l ,   t h e   p r o po s e d   f r a m e w o r p r o v i de s   a   c o n c r e t e   pa t h w a y   t ow a r t r us t w o r t h y   a n m o n i t o r e A I - b a s e a l e r t i n i n   c r i t i c a l   c a r e   Evaluation Warning : The document was created with Spire.PDF for Python.
                                IS S N :   2 5 0 2 - 4 7 52   In do n e s i a n   J   E l e c   E ng   &   Co m S c i V o l .   41 ,   N o .   2 F e b r ua r y   20 2 6 :   6 1 4 - 623   622   a n f o r m s   a   b a s i s   f o r   f ut u r e   m u l t i - c e n t r e   v a l i d a t i o n ,   l a r ge - s c a l e   pe r s o na l i z a t i o n ,   a nd  p r o s pe c t i v e   e v a l ua t i o of  h u m a n - A c o l l a b o r a t i o n   a t   t h e   b e ds i de .       A C K N O WL ED G M EN TS   T h e   a u t h o r s   w o ul l i ke   t o   t ha n k   t h e i l a b o r a t o r y   a n d   i n s t i t u t i o n   f o r   t h e i s uppo r t   du ri n g   t hi s   r e s e a r c h.       F U N D I N G   I N F O R M A TI O N   T h i s   r e s e a r c h   r e c e i v e n o   e xt e rn a l   f u n di ng.       A U TH O R   C O N TR I B U TI O N S   S TA T EM EN T   T h i s   j o urna l   us e s   t h e   Co n t ri b ut o R o l e s   T a xo n o m y   (CR e di T t o   r e c o gn i z e   i n d i v i dua l   a ut h o c o n t ri b ut i o n s ,   r e duc e   a ut h o r s hi p   di s pu t e s ,   a n d   f a c i l i t a t e   c o l l a bo r a t i o n.       N am e   o A u th o r   C   M   So   Va   Fo   I   R   D   O   E   Vi   Su   P   Fu   A m e l   E l ke t r o us s i                               B a c h i D j e bb a r                               Ib t i s s e m   B e kko u c h e                                 C     C o n c e p t u a l i z a t i o n   M     M e t h o d o l o g y   So     So f t w a r e   Va     Va l i d a t i o n   Fo     Fo r m a l   a n a l y s i s   I     I n v e s t i g a t i o n   R     R e s o u rc e s   D   :   D a t a   Cu ra t i o n   O   :   W ri t i n g   -   O ri g i n a l   D ra ft   E   :   W ri t i n g   -   Re v i e w   &   E d i t i n g   Vi     Vi s u a l i z a t i o n   Su     Su p e r v i s i o n   P     P ro j e c t   a d m i n i s t ra t i o n   Fu     Fu n d i n g   a c q u i s i t i o n         C O N F LI C O F   I N T ER ES S TA T EM EN T   T h e   a u t h o r s   de c l a r e   n o   c o n f l i c t   o f   i n t e r e s t .       D A TA   A V A I LA B I LI T Y   T h e   d a t a   us e i t hi s   s t udy   a r e   pub l i c l y   a v a i l a b l e   f r o m   t he   M IM IC - III   a nd  M IM IC - IV   da t a b a s e s   (P h y s i o N e t ).       R EF ER EN C ES   [1 ]   Y .   S u ,   R.   L i u ,   Y .   Z h a o ,   W .   S u n ,   C.   N i u ,   a n d   D .   P e i ,   R o b u s t   a n o m a l y   d e t e c t i o n   f o r   m u l t i v a ri a t e   t i m e   s e ri e s   t h r o u g h   s t o c h a s t i c   re c u rre n t   n e u ra l   n e t w o rk ,   i n   P r o c e e d i n g s   o f   t h e   A C M   S I G K D D   In t e r n a t i o n a l   Co n f e r e n c e   o n   K n o w l e d g e   D i s c o v e r y   a n d   D a t a   M i n i n g ,   N e w   Y o rk ,   N Y ,   U S A :   A CM ,   J u l .   2 0 1 9 ,   p p .   2 8 2 8 2 8 3 7 .   d o i :   1 0 . 1 1 4 5 / 3 2 9 2 5 0 0 . 3 3 3 0 6 7 2 .   [2 ]   Y .   D e n g ,   S .   L i u ,   Z .   W a n g ,   Y .   W a n g ,   Y .   J i a n g ,   a n d   B.   L i u ,   E x p l a i n a b l e   t i m e - s e ri e s   d e e p   l e a r n i n g   m o d e l s   fo t h e   p r e d i c t i o n   o m o rt a l i t y ,   p ro l o n g e d   l e n g t h   o f   s t a y   a n d   3 0 - d a y   r e a d m i s s i o n   i n   i n t e n s i v e   c a re   p a t i e n t s ,   F r o n t i e r s   i n   M e d i c i n e ,   v o l .   9 ,   S e p .   2 0 2 2 ,   d o i :   1 0 . 3 3 8 9 / fm e d . 2 0 2 2 . 9 3 3 0 3 7 .   [3 ]   M .   M o u t a i b ,   M .   F a t t a h ,   Y .   F a rh a o u i ,   B.   A g h o u t a n e ,   a n d   M .   E l   B e k k a l i ,   F e t a l   e l e c t r o c a rd i o g ra m   p r e d i c t i o n   u s i n g   m a c h i n e   l e a r n i n g :   a   ra n d o m   fo r e s t - b a s e d   a p p ro a c h ,   In d o n e s i a n   J o u r n a l   o f   E l e c t r i c a l   E n g i n e e r i n g   a n d   Co m p u t e r   S c i e n c e   ( IJ E E CS )   v o l .   3 3 ,   n o .   2 ,   p p .   1 0 7 6 - 1 0 8 3 ,   F e b .   2 0 2 4 ,   d o i :   1 0 . 1 1 5 9 1 / i j e e c s . v 3 3 . i 2 . p p 1 0 7 6 - 1083.   [4 ]   M .   T .   Ri b e i ro ,   S .   S i n g h ,   a n d   C.   G u e s t ri n ,   ‘W h y   s h o u l d   i   t r u s t   y o u ? , ’”   i n   P r o c e e d i n g s   o f   t h e   2 2 n d   A CM   S IG K D D   I n t e r n a t i o n a l   Co n f e r e n c e   o n   K n o w l e d g e   D i s c o v e r y   a n d   D a t a   M i n i n g ,   N Y ,   U S A :   A CM ,   A u g .   2 0 1 6 ,   p p .   1 1 3 5 - 1 1 4 4 .   d o i :   1 0 . 1 1 4 5 / 2 9 3 9 6 7 2 . 2 9 3 9 7 7 8 .   [5 ]   L u n d b e r g   S c o t t   M .   a n d   L e e   S u - I n . ,     A   u n i f i e d   a p p r o a c h   t o   i n t e r p r e t i n g   m o d e l   p r e d i c t i o n s ,   i n   A d v a n c e s   i n   Ne u r a l   In f o r m a t i o n   P r o c e s s i n g   S y s t e m s . ,   2 0 1 7 ,   p p .   4 7 6 5 - 4774.   [6 ]   E .   T j o a   a n d   C.   G u a n ,   A   s u r v e y   o n   e x p l a i n a b l e   a rt i fi c i a l   i n t e l l i g e n c e   ( X A I) :   t o w a r d   m e d i c a l   X A I ,   IE E E   T r a n s a c t i o n s   o n   Ne u r a l   Ne t w o r k s   a n d   L e a r n i n g   S y s t e m s ,   v o l .   3 2 ,   n o .   1 1 ,   p p .   4 7 9 3 - 4 8 1 3 ,   N o v .   2 0 2 1 ,   d o i :   1 0 . 1 1 0 9 / T N N L S . 2 0 2 0 . 3 0 2 7 3 1 4 .   [7 ]   M .   S a a r e l a   a n d   V .   P o d g o re l e c ,   Re c e n t   a p p l i c a t i o n s   o e x p l a i n a b l e   A ( X A I) :   a   s y s t e m a t i c   l i t e ra t u re   r e v i e w ,   A p p l i e d   S c i e n c e s v o l .   1 4 ,   n o .   1 9 ,   p .   8 8 8 4 ,   O c t .   2 0 2 4 ,   d o i :   1 0 . 3 3 9 0 / a p p 1 4 1 9 8 8 8 4 .   [8 ]   O .   B o d e n r e i d e r ,   T h e   u n i fi e d   m e d i c a l   l a n g u a g e   s y s t e m   ( U M L S ) :   in t e g ra t i n g   b i o m e d i c a l   t e r m i n o l o g y ,   Nu c l e i c   A c i d s   R e s e a r c h v o l .   3 2 ,   n o .   s u p p l _ 1 ,   1   J a n u a ry   2 0 0 4 ,   p p .   D 2 6 7 - D 2 7 0 ,   J a n .   2 0 0 4 ,   d o i :   1 0 . 1 0 9 3 / n a r/ g k h 0 6 1 .   [9 ]   S N O M E D   I n t e r n a t i o n a l ,   S N O M E D   CT   c l i n i c a l   t e r m s     re l e a s e ,   2 0 2 3 .   [O n l i n e ].   A v a i l a b l e :   h t t p s : / / w w w . s n o m e d . o r g .   [1 0 ]   H e a l t h   L e v e l   S e v e n   I n t e r n a t i o n a l ,   H L 7   F H IR  ( F a s t   H e a l t h c a r e   I n t e r o p e ra b i l i t y   Re s o u r c e s ),   2 0 1 9 .   [O n l i n e ].   A v a i l a b l e :   h t t p s : / / w w w . h l 7 . o rg / fh i r .   [1 1 ]   B.   J .   D re w   e t   a l . ,   In s i g h t s   i n t o   t h e   p ro b l e m   o f   a l a rm   f a t i g u e   w i t h   p h y s i o l o g i c   m o n i t o d e v i c e s a   c o m p re h e n s i v e   o b s e r v a t i o n a l   s t u d y   o f   c o n s e c u t i v e   i n t e n s i v e   c a re   u n i t   p a t i e n t s ,   P L o S   O NE ,   v o l .   9 ,   n o .   1 0 ,   p .   e 1 1 0 2 7 4 ,   O c t .   2 0 1 4 ,   d o i :   1 0 . 1 3 7 1 / j o u rn a l . p o n e . 0 1 1 0 2 7 4 .   [1 2 ]   R.   C.   o f   P h y s i c i a n s ,   N a t i o n a l   e a rl y   w a rn i n g   s c o r e   (N E W S 2 :   s t a n d a rd i s i n g   t h e   a s s e s s m e n t   o f   a c u t e - i l l n e s s   s e v e ri t y   i n   t h e   N H S ,   L o n d o n ,   2 0 1 7 .   [O n l i n e ].   A v a i l a b l e :   h t t p s : / / w w w . rc p . a c . u k / m e d i a / a 4 i b k k b f / n e w s 2 - f i n a l - r e p o rt _ 0 _ 0 . p d f   Evaluation Warning : The document was created with Spire.PDF for Python.
In do n e s i a J   E l e c   E ng  &   Co m S c i     IS S N :   2 5 0 2 - 4 7 52       Cont e x t ual i z e d   c l i n i c a l   a nom al y   d e t e c t i on  w i t e x p l ai nabl e   A …  ( A m e l   E l k e t r ous s i )   623   [1 3 ]   W .   A .   K n a u s ,   E .   A .   D ra p e r,   D .   P .   W a g n e r ,   a n d   J .   E .   Z i m m e r m a n ,   A P A CH E   II:   A   s e v e r i t y   o d i s e a s e   c l a s s i fi c a t i o n   s y s t e m ,   Cr i t i c a l   Ca r e   M e d i c i n e ,   v o l .   1 3 ,   n o .   1 0 ,   p p .   8 1 8 - 8 2 9 ,   O c t .   1 9 8 5 ,   d o i :   1 0 . 1 0 9 7 / 0 0 0 0 3 2 4 6 - 1 9 8 5 1 0 0 0 0 - 00009.   [1 4 ]   E .   Ch o i ,   M .   T a h a   Ba h a d o ri ,   J .   S u n ,   J .   A .   K u l a s ,   A .   S c h u e t z ,   a n d   W .   F .   S t e w a rt ,   R e t a i n :   a n   i n t e r p r e t a b l e   p r e d i c t i v e   m o d e l   fo r   h e a l t h c a r e   u s i n g   r e v e r s e   t i m e   a t t e n t i o n   m e c h a n i s m ,   i n   A d v a n c e s   i n   Ne u r a l   In f o r m a t i o n   P r o c e s s i n g   S y s t e m s ,   2 0 1 6 ,   p p .   3 5 0 4 3 5 1 2 .   [O n l i n e ] .   A v a i l a b l e :   h t t p s : / / p r o c e e d i n g s . n e u ri p s . c c / p a p e r / 2 0 1 6 / h a s h / 2 3 1 1 4 1 b 3 4 c 8 2 a a 9 5 e 4 8 8 1 0 a 9 d 1 b 3 3 a 7 9 - A b s t ra c t . h t m l   [1 5 ]   Y .   L i   e t   a l . ,   B E H RT :   t ra n s fo r m e fo e l e c t ro n i c   h e a l t h   r e c o rd s ,   S c i e n t i f i c   R e p o r t s ,   v o l .   1 0 ,   n o .   1 ,   p .   7 1 5 5 ,   A p r.   2 0 2 0 ,     d o i :   1 0 . 1 0 3 8 / s 4 1 5 9 8 - 020 - 62922 - y.   [1 6 ]   L .   Ra s m y ,   Y .   X i a n g ,   Z .   X i e ,   C.   T a o ,   a n d   D .   Z h i ,   M e d - BE RT :   p re t ra i n e d   c o n t e x t u a l i z e d   e m b e d d i n g s   o n   l a rg e - sc a l e   s t ru c t u re d   e l e c t ro n i c   h e a l t h   re c o r d s   fo d i s e a s e   p r e d i c t i o n ,   n p j   D i g i t a l   M e d i c i n e ,   v o l .   4 ,   n o .   1 ,   p .   8 6 ,   2 0 2 1 ,   d o i :   1 0 . 1 0 3 8 / s 4 1 7 4 6 - 0 2 1 - 0 0 4 5 5 - y.   [1 7 ]   C.   G u o ,   G .   P l e i s s ,   Y .   S u n ,   a n d   K .   Q .   W e i n b e r g e r,   O n   c a l i b ra t i o n   o f   m o d e r n   n e u ra l   n e t w o rk s ,   i n   In t e r n a t i o n a l   c o n f e r e n c e   o n   m a c h i n e   l e a r n i n g ,   2 0 1 7 ,   p p .   1 3 2 1 - 1330.   [1 8 ]   Z .   O b e r m e y e r ,   B.   P o w e r s ,   C .   V o g e l i ,   a n d   S .   M u l l a i n a t h a n ,   D i s s e c t i n g   ra c i a l   b i a s   i n   a n   a l g o ri t h m   u s e d   t o   m a n a g e   t h e   h e a l t h   o f   p o p u l a t i o n s ,   S c i e n c e ,   v o l .   3 6 6 ,   n o .   6 4 6 4 ,   p p .   4 4 7 - 4 5 3 ,   O c t .   2 0 1 9 ,   d o i :   1 0 . 1 1 2 6 / s c i e n c e . a a x 2 3 4 2 .   [1 9 ]   Q .   F e n g ,   M .   D u ,   N .   Z o u ,   a n d   X .   H u ,   F a i m a c h i n e   l e a r n i n g   i n   h e a l t h c a re :   a   s u rv e y ,   I E E E   T r a n s a c t i o n s   o n   A r t i f i c i a l   In t e l l i g e n c e v o l .   6 ,   n o .   3 ,   p p .   4 9 3 5 0 7 ,   M a r.   2 0 2 5 ,   d o i :   1 0 . 1 1 0 9 / T A I. 2 0 2 4 . 3 3 6 1 8 3 6 .   [2 0 ]   K .   Ch a k ra d e o   e t   a l . ,   N a v i g a t i n g   f a i r n e s s   a s p e c t s   o f   c l i n i c a l   p r e d i c t i o n   m o d e l s ,   B M M e d i c i n e ,   v o l .   2 3 ,   n o .   1 ,   p .   5 6 7 ,   O c t .   2 0 2 5 ,   d o i :   1 0 . 1 1 8 6 / s 1 2 9 1 6 - 025 - 04340 - 3.   [2 1 ]   A .   E .   W .   J o h n s o n   e t   a l . ,   M I M IC - III ,   a   f r e e l y   a c c e s s i b l e   c ri t i c a l   c a r e   d a t a b a s e ,   S c i e n t i f i c   D a t a ,   v o l .   3 ,   n o .   1 ,   p .   1 6 0 0 3 5 ,     M a y   2 0 1 6 ,   d o i :   1 0 . 1 0 3 8 / s d a t a . 2 0 1 6 . 3 5 .   [2 2 ]   A .   J o h n s o n ,   L .   Bu l g a r e l l i ,   T .   P o l l a r d ,   S .   H o r n g ,   L .   A .   Ce l i ,   a n d   R.   M a rk ,   M I M IC - I V   v 2 . 0 ,   P h y s i o Ne t ,   2 0 2 2 ,     d o i :   1 0 . 1 3 0 2 6 / 7 v c r - e 1 1 4 .   [2 3 ]   S .   H o c h r e i t e r   a n d   J .   S c h m i d h u b e r,   L o n g   s h o rt - t e r m   m e m o r y ,   Ne u r a l   C o m p u t a t i o n ,   v o l .   9 ,   n o .   8 ,   p p .   1 7 3 5 - 1 7 8 0 ,   N o v .   1 9 9 7 ,     d o i :   1 0 . 1 1 6 2 / n e c o . 1 9 9 7 . 9 . 8 . 1 7 3 5 .   [2 4 ]   R.   E .   K o   e t   a l . ,   D e e p   l e a rn i n g - b a s e d   e a rl y   w a r n i n g   s c o r e   fo p re d i c t i n g   c l i n i c a l   d e t e ri o ra t i o n   i n   g e n e ra l   w a r d   c a n c e p a t i e n t s ,   Ca n c e r s ,   v o l .   1 5 ,   n o .   2 1 ,   p .   5 1 4 5 ,   O c t .   2 0 2 3 ,   d o i :   1 0 . 3 3 9 0 / c a n c e r s 1 5 2 1 5 1 4 5 .   [2 5 ]   B.   V a s e y   e t   a l . ,   R e p o rt i n g   g u i d e l i n e   fo t h e   e a r l y   s t a g e   c l i n i c a l   e v a l u a t i o n   o f   d e c i s i o n   s u p p o rt   s y s t e m s   d r i v e n   b y   a rt i f i c i a l   i n t e l l i g e n c e :   D E CID E - A I ,   B m j ,   v o l .   3 7 7 ,   p .   e 0 7 0 9 0 4 ,   M a y   2 0 2 3 ,   d o i :   1 0 . 1 1 3 6 / b m j - 2022 - 070904.       B I O G R A P H I ES   O F   A U T H O R S       A m e l   E l k e t r o u s s i           i s   a   l e c t u r e r   i n   t h e   D e p a r t m e n t   o f   C o m put e r   S c i e nc e ,   F a c ul t y   o f   M a t h e m a t i c s   a n C o m put e r   S c i e nc e ,   U n i v e r s i t y   o f   S c i e nc e   a nd  T e c hno l o gy   o f   O r a   M o ha m e d   B o udi a f   ( U S T O - M B ) ,   A l g e r i a .   S h e   o bt a i ne d   he r   M a g i s t e r   de g r e e   i n   c o m put e r   s c i e nc e   f r o m   t h e   s a m e   un i v e r s i t y .   H e r   r e s e a r c i n t e r e s t s   f o c us   o da t a ba s e s   a n a r t i f i c i a l   i nt e l l i g e nc e   ( A I ) ,   w i t h   pa r t i c ul a r   e m p ha s i s   o da t a   m a na g e m e nt   a nd   i n t e l l i g e n t   i nf o r m a t i o s y s t e m s .   S he   i s   a c t i v e l y   i nv o l v e i n   a c a de m i c   r e s e a r c p r o j e c t s   a nd  c o nt r i bu t e s   t o   c o l l a bo r a t i v e   r e s e a r c a c t i v i t i e s   w i t hi n   he r   de p a r t m e n t .   H e r   t e a c hi ng   r e s po ns i bi l i t i e s   i nc l ud e   da t a ba s e   s y s t e m s ,   f un da m e nt a l s   o f   m a c hi n e   l e a r ni ng ,   a nd   A I - b a s e d   a pp l i c a t i o ns   i da t a   pr o c e s s i ng ,   r e f l e c t i ng   he r   c o m m i t m e nt   t o   bo t h   e duc a t i o a nd   r e s e a r c h   i n   c o m put e r   s c i e nc e S he   c a n   b e   c o nt a c t e a t   e m a i l :   a m e l . e l ke t r o us s i @ un i v - us t o . dz .         B a c h i r   D j e b b ar           do c t o r a l   d e g r e e .   i n   m a t he m a t i c a l   s c i e nc e s   f r o m   P a ul   S a ba t i e r   U ni v e r s i t y   i n   T o ul o us e ,   F r a nc e   i 198 7,   a n P h. D .   S t a t e   i m a t h e m a t i c a l   a pp r o xi m a t i o f r o m   t he   U n i v e r s i t y   o f   S c i e nc e   a nd   T e c hno l o gy   o f   O r a n.   H e   h e l d   s e v e r a l   a dm i n i s t r a t i v e   po s i t i o ns   a t   t he   F a c ul t y   of   M a t he m a t i c s   a nd   C o m put e r   S c i e nc e   a t   t h e   M o ha m e B o udi a f   U ni v e r s i t y   of   T e c hno l o gy   i O r a ( U S T O M B ) .   H e a o f   t he   C o m put e r   S c i e nc e   D e pa r t m e nt   f r o m   1999   t o   2008 ,   V i c e   D e a n   i n   c ha r g e   o f   s t u di e s   f r o m   20 08   t o   201 1   a n D e a n   o f   t he   F a c u l t y   o f   M a t he m a t i c s   a n C o m put e r   S c i e nc e ,   s i nc e   201 7,   he   i s   c ur r e nt l y   a   pr o f e s s o r   i t he   D e p a r t m e n t   o f   C om put e r   S c i e nc e .   H e   c a b e   c o nt a c t e a t   e m a i l :   ba c hi r . d j e b ba r @un i v - us t o . dz .         I b t i s s e m   B e k k o u c h e           i s   a n   A s s o c i a t e   P r o f e s s o r   i t he   I S D   t e a m   a t   t h e   S I M P A   L a bo r a t o r y ,   F a c u l t y   o f   M a t he m a t i c s   a n C o m pu t e r   S c i e nc e ,   U ni v e r s i t y   o f   S c i e nc e   a nd   T e c hno l o gy   o f   O r a   M o ha m e d   B o ud i a f   ( U S T O - M B ) ,   A l g e r i a .   S h e   e a r ne he r   P h . D .   i n   c om put e r   s c i e nc e   f r o m   t he   s a m e   u ni v e r s i t y ,   s p e c i a l i z i ng   i n   pa t t e r r e c o g ni t i o a nd   a r t i f i c i a l   i nt e l l i g e nc e .   H e r   r e s e a r c f o c us e s   o a r t i f i c i a l   i n t e l l i g e nc e ,   m a c h i ne   l e a r n i ng ,   c o m put e r   v i s i o n,   i m a g e   pr o c e s s i ng ,   a n d   da t a   s c i e nc e .   S he   c a n   be   c o nt a c t e d   a t   e m a i l :   i bt i s s e m . be kko u c he @un i v - us t o . dz .     Evaluation Warning : The document was created with Spire.PDF for Python.