I n d on e s i a n  Jo u r n al  of   E l e c t r i c al  E n g i n e e r i n g   a n d  C om p u t e r  S c i e n c e   V ol .   40 , N o.   1 O c t obe r   2025 , p p.  288 ~ 296   I S S N :  2502 - 4752, D O I :  10.11591/ i j e e c s . v 40 .i 1 . pp 288 - 296           288     Jou r n al  h om e page ht t p: / / i j e e c s .i ae s c or e .c om   Im p r ov i n g   b r e ast  c a n c e r  p r e d i c t i o n  t h r o u g h  e xp l ai n a b l e   ar t i f i c i al  i n t e l l i ge n c e   -   t r a n sd i sc i p l i n ar ap p r oac h       R e e n a L ok ar e 1 ,   Jyot i   S u n i l   M or e 2 V ai s h al i   V S ar b h u k an 3 , M an s i n g R at h o d 1   S ar i t a R at h o d 1 S u n i t P at i l 4   1 D e pa r t m e n t   of   I n f o r m a t i o n   T e c hn ol o g y ,   K . J .   S om a i ya   I n s t i t ut e   of   T e c hn ol o gy,   M u m ba i ,   I ndi a   2 D e pa r t m e n t   of   C o m put e r   E ngi n e e r i ng,   F r .   C .   R odr i g ue s   I n s t i t ut e   of   T e c hn ol o g y,   N a vi   M u m ba i I ndi a   3 D e pa r t m e n t   of   I n f o r m a t i o n   T e c hn ol o g y ,   F r .   C .   R odr i g ue s   I n s t i t ut e   of   T e c hn ol o gy,   N a vi   M u m ba i I n d i a   4 S V K M s   N M I M S ,   S h i r pu r   C a m p us   a t   S V K M s   N a r s e e   M onj e e   I n s t i t ut e   of   M a n a g e m e n t   S t u di e s   ( N M I M S ) ,   D h ul e ,   I ndi a       A r t i c l e  I n f o     A B S T R A C T   A r t i c l e  h i s t o r y :   R e c e i v e d   A u g   24 2024   R e v i s e M a r   17 2025   A c c e pt e J ul   3 2025       Ar ti f i c i a l   i n telli g e n c e   ( A I )   tec h n o l o g y   h a s   s h o wn   tr e m e n d o u s   c o n tr i b u ti o n s   i n   v a r i o u s   a p p l i c a t i o n s   li k e   s p e e c h   r e c o g n i t i o n ,   e x p e r s y s te m s ,   c o m p u ter   v i s i o n ,   r o b o ti c s ,   a n d   g a m i n g m a c h i n e   lea r n i n g   ( M L )   a n d   d e e p   l e a r n i n g   ( DL )   a lg o r i th m s   u n d e r   AI   a d d r e s s   p r o b l e m s   s u c h   a s   p r e d i c ti o n ,   c l a s s i f ica ti o n ,   a n d   r e g r e s s i o n .   AI   h a s   to u c h e d   m a n y   d o m a i n s .   T h e   r e s u l ts   o r   th e   p r e d i c ti o n s   g e n e r a ted   b y   th e s e   a l g o r i th m s   a r e   n o e a s il y   a c c e p ted   b y   th e   u s e r .   E s p e c i a ll y ,   th e   He a l t h c a r e   d o m a i n   i s   f a c i n g   a   g r e a t   c h a ll e n g e   i n   a c c e p t i n g   th e   r e s u l ts   o r   th e   p r e d i c ti o n s   wi th   th e   c o n c e r n ,   Ar e   AI   r e s u l ts   r e li a b l e ,   c o r r e c t,   a n d   e th i c a l ?   Do c to r s   o r   m e d i c a p r a c t i ti o n e r s   a r e   n o r e a d y   to   tr e a p a t i e n ts   b a s e d   o n   r e s u l ts   o r   s u g g e s ti o n s   g e n e r a ted   b y   AI   a l g o r i th m s .   He n c e ,   a   tec h n o l o g y   th a t   c a n   e x p l a i n   h o th e   r e s u l ts   r e tu r n e d   b y   AI   a l g o r i th m s   a r e   tr u s two r th y ,   tr a n s p a r e n t,   a n d   i n ter p r e tab l e   wa s   s tr o n g l y   n e e d e d .   T h i s   n e e d   h a s   g i v e n   r i s e   to   th e   l a tes t   tec h n o l o g y - e x p l a i n a b l e   a r ti f i c i a i n te ll i g e n c e   ( XA I ) .   W i th   th e   u s e   o f   XA I ,   a ll   th e   p r e d i c t i o n s ,   c l a s s i f ica ti o n s   m a d e   b y   AI   a l g o r i th m s   a r e   e x p l a i n a b l e ,   a u d i tab l e ,   c o m p r e h e n s i v e ,   v a li d a t i n g ,   a n d   s o c i a ll y   a c c e p tab l e .   T h i s   p a p e r   d i s c u s s e s   e x p l a i n i n g   th e   r e s u l ts   o f   b r e a s c a n c e r   p r e d i c ti o n   a s   a   c a s e   s tu d y .   T h e   r e s u l ts   s h o th a s u c h   a n   e x p l a n a ti o n   wi ll   b u il d   tr u s in   th e   d o c to r s   a n d   h e n c e   will   i n c r e a s e   th e   a c c e p tan c e   o f   th e   AI - b a s e d   s y s tem s .   K e y w or d s :   A r t i f i c i a l  i nt e l l i g e nc e   B r e a s t  c a nc e r   E xpl a i na bl e  A I   he a l t hc a r e   pr e di c t i on   T h i s   i s   a n   o p e n   a c c e s s   a r ti c l e   u n d e r   th e   C C   B Y - SA   l i c e n s e .     C or r e s pon di n g A u t h or :   R e e na  L oka r e   D e pa r t m e nt  of   I n f or m a t i on T e c hnol ogy K .J . S o m a i y a   I ns t i t ut e  of  T e c hnol ogy   M um ba i I ndi a   E m a i l :   r e e na .l @ s o m a i y a .e du       1.   I N T R O D U C T I O N   A r ound  85%   of   or g a ni z a t i ons   i 2020   us e a r t i f i c i a l   i nt e l l i g e nc e   ( A I )   a nd  t hi s   n um b e r   i s   c ons i s t e nt l y   g r o w i ng   [ 1] T he s e   r e c e nt   de v e l op m e nt s   i t he   f i e l of   A I   a r e   not a bl e I t   ha s   not   l e f t   a   s i ng l e   f i e l unt ouc he d.  T he   w or l i s   be hi nd  a ut o m a t i on.  E v e r y   s e c t or   w a nt s   t a ut om a t e   t he i r   bus i ne s s e s   a nd  pr oc e s s e s B a nki ng M a nuf a c t ur i ng   I ndus t r i e s A ut o m obi l e H e a l t hc a r e   t na m e   a   f e w T he   r e a s ons   f or   t hi s   a ut om a t i on  c a be   t r e duc e   m a npo w e r i nc r e a s e   e f f i c i e nc y   i t he i r   pr oc e s s f a s t   ou t c om e f ut ur e   pr e di c t i ons or   s ug ge s t i ons s ol v i ng   c o m pl e pr obl e m s   l i ke   di s e a s e   pr e di c t i on,  obj e c t   de t e c t i on,  a n f r a ud  de t e c t i on.   E v e r y   s e c t or   l ooki ng   f or   a ut o m a t i on  t hr oug A I   t e c hnol ogy   i s   i nt r oduc i ng   i nt e l l i g e nc e   i t he i r   t r a di t i ona l   a ppl i c a t i ons .   M a ny   c o m pl e pr obl e m s   i t he   he a l t hc a r e   s e c t or   s uc a s   di s e a s e   pr e di c t i on  a nd  de t e c t i on,  dr u di s c o v e r y a nd  p r e c i s i on  m e di c i ne   r e c o m m e nda t i ons . a r e  be i n g  s ol v e d  by t he   A I  a l g or i t h m s  [ 2] . F or  e xa m pl e ,   a A I   a ppl i c a t i on  t pr e di c t   c a nc e r   di s e a s e   i a   pa t i e nt   m a y   g i v e   pr e di c t i on  i t e r m s   of   a a c c ur a c y.     Evaluation Warning : The document was created with Spire.PDF for Python.
I ndone s i a n J   E l e c  E n g  &  C om p S c i     I S S N :   2502 - 4752       I m pr ov i ng b r e as t  c anc e r  pr e d i c t i on  t hr ough e x pl a i nab l e  ar t i f i c i a l  i nt e l l i ge nc e     ( R e e na L o k ar e )   289   T hi s   pr e di c t i on  c a be   m a de   ba s e on  a t t r i bu t e s   or   f e a t ur e s   s uc a s   a g e s ym pt o m s t u m or   s t a g e a nd  nu m be r   of   t um or s   obs e r v e d.  P r e di c t i ons   i A I / m a c hi ne   l e a r ni n g   ( ML ) / de e l e a r ni ng   ( DL )   a r e   not hi ng   but   a l g or i t h m s / m ode l s   g ue s s e s ,”   a bout   t he   t a r g e t   v a l ue   ba s e on  g i v e a t t r i but e s / f e a t ur e s T he s e   m ode r n   c o m pl e a l g o r i t hm s   a r e   na t ur a l l y   opa que non -   i nt ui t i v e   a nd  di f f i c ul t   t unde r s t a nd.   F r o m   t hi s   opa que ne s s ,   one   m i g ht  g u e s s  but  c a n ne v e r  kno w   w ha t  i s  ha ppe ni n g  i ns i de  t he  n e t w or k.  T he   m ode l s  a r e  t r a i ne d a nd t e s t e d   w i t hug e   da t a   s a m pl e s ge t t i ng   a   g ood  a c c ur a c y   w i t a   c on v i n c i ng   pos i t i v e   pr e di c t i v e   v a l ue C a l c ul a t i n onl y  a c c ur a c y  t o e xpl a i n t he  r e a l - l i f e  t a s ks  i s  not  s uf f i c i e nt .   M e di c a l   pr of e s s i ona l s   s uc a s   doc t or s / c l i ni c i a ns / m e di c i na l   e xpe r t s   a r e   not   r e a d y   t a c c e pt   r e s ul t s   g e ne r a t e d b y   A I   a l g or i t h m s   w i t h t he  bi gg e s t  c onc e r n,  P r e di c t i ons   m a de  b A I   a r e  t r us t w or t hy ?   H o w  t o t r us t   t he   r e s ul t s   g e ne r a t e b y   M L   a l g or i t h m s ?   A ppl y i n g   a une xpl a i ne ne t w or w i t pa t i e nt s   l i f e   i s   ne a r   t i m pos s i bl e I or de r   t t r us t   A I   g e ne r a t e r e s ul t s a   doc t or   ne e ds   a e xpl a na t i on  of   t he   r e s ul t T he y   w a nt   t o   unde r s t a nd  t he   w a y   A I   w or ks   t he l t he m   i m pr o v e   t he i r   s e r v i c e s   a s   no  one   r e a l l y   know s   w h y   t he s e   a l g or i t h m s   m a k e   t he   c hoi c e s   t he y   do?   T hi s   l a c of   t r a ns pa r e nc y   i s   t he   bi g g e s t   c ha l l e nge   f or   t he   h e a l t hc a r e   s e c t or  i n us i ng  A I  pr e di c t e d r e s ul t s .   M os t   of   t he   A I   a l g or i t h m s   a r e   c o m pl e i na t ur e T he y   g e n e r a t e   pr e di c t i ons   or   c l a s s i f i c a t i ons   ba s e on  t he   f e a t ur e s   pr o v i d e d.  O ne   n e v e r   kno w s   w h a t   i s   h a ppe ni ng  i ns i de   t he   ne t w o r k.  C i of f i   e t   al .   [ 3] t r us t i ng  pr e di c t i ons   m a d e   b y   A I   a l g or i t h m   ba s e on  c onf us i on  m a t r i i s   not   a t   a l l   a c c e pt a bl e   b y   H e a l t hc a r e F i na nc e ,   D e pa r t m e nt   of   D e f e ns e   ( D oD )   l i ke   a ut o m a t e t a r g e t   r e c og ni t i on,  ba t t l e f i e l s ur v e i l l a nc e a u t ono m ous   v e hi c l e s s m a r t   ho m e s a nd  s m a r t   bui l di ng s a s   w e l l   a s   ne a r l y   b y   e v e r y   do m a i n.  T he y   n e e j us t i f i c a t i on  t o   t r us t  t he  r e s ul t s be c a us e  i t  i s  a  g r e a t  c onc e r n f or  pe opl e s  l i v e s , he a l t h, s a f e t y , s e c ur i t y a nd de pe nda bi l i t y .   ML   a l g or i t h m s   l i ke   s uppor t   v e c t or   m a c hi ne   ( S V M ) l i ne a r   r e gr e s s i on  ( L R ) n e ur a l   ne t w o r ( N N ) de c i s i on  t r e e   ( D T ) a nd  r a ndo m   f or e s t   ( R F )   a l g or i t h m ge ne r a t e   r e s ul t s   i t he   f or m   of   pr e di c t i on  a c c ur a c y,   T r ue / F a l s e   or   Y e s / N o.  B l a c box  i s   a   t e r m   us e f or   t he   m ode l   w he r e   t he   w or ki n g   of   t he   m ode l   i s   hi d de a nd  not   unde r s t ood  by   t he   us e r   [ 4] T he   m ode l   de c i s i ons   a r e   non - t r a ns pa r e nt   a nd  of t e i nc o m p r e he ns i bl e   e v e t o   t he  e xpe r t s  or  t he  c o m put e r  de v e l ope r s  a s  t he y  do not  e xpl a i n t he  r e s ul t s . T hus , t he  i nt e r pr e t a bi l i t y , r e l i a bi l i t y r e s i l i e nc y , t r us t w or t hi ne s s  a nd e xpl a i na bi l i t y  i s  e xpe c t e d b y   a l l  c o m pl e a ppl i c a t i ons  us i ng  A I / M L / D L   m ode l   pr e di c t i ons .   L i a e t   al .   [ 5]   f ound  t ha t   t he   m a j or   l i m i t a t i on  of   t he   A I   a l g or i t h m   i s   t he i r   bl a c box  na t ur e .   I or de r   t a c c e pt   t he   r e s ul t s   g e ne r a t e b y   t he s e   a l g o r i t hm s t he   t e c hnol ogy   c a l l e e xpl a i na bl e   a r t i f i c i a l   i nt e l l i g e nc e   ( X A I )   c a m e   i nt e xi s t e nc e T hi s   t e c hnol ogy   ha s   t he   c a pa bi l i t y   t e xpl a i t he   r e s ul t s   g e ne r a t e by   A I   m ode l s .   T hou g X A I   i s   v a s t l y   unde r   de v e l op m e nt i t   ha s   s t r e ng t t br i dg e   t he   g a be t w e e r e s e a r c he r s   a nd   m a c hi ne s T he r e   a r e   m a n y   c ha l l e ng e s   i us i ng   i nt e r pr e t a bl e   ML   t e c hnol og y   a s   i ndi c a t e b y   R udi e t   al .   [ 6] .     I t   i nc l ude s   opt i m i z a t i on  of   DT s opt i m i z a t i on  of   s c or i ng   s y s t e m s a nd  pl a c i ng   c ons t r a i nt s   i nt m ode l s   f or   be t t e r   i nt e r pr e t a bi l i t y X A I   t e c hnol ogy   w i l l   pl a y   a   m a j or   r ol e   i t he   H e a l t hc a r e   s e c t or   w h e r e   t he r e   i s   s t i l l   a   l i t t l e  a c c e pt a nc e  of   AI - pr e di c t e d   r e s ul t s . C om pl e x di s e a s e s  s uc a s   c a n c e r ,  di a be t e s , he a r t  d i s e a s e s , a nd  m a n ot he r   he r e di t a r y   di s e a s e s   a r e   c o m m on  w o r l dw i de C ha n g i ng  l i f e s t y l e ,   s e l f - m e di c a t i on,  w r ong   e a t i ng   h a bi t s   a r e   s o m e   of   t he   r e a s ons   be hi nd  t he s e   di s e a s e s T houg h   m a ny  t r e a t m e nt   opt i ons   a r e   a va i l a bl e   a nd  be i n pr a c t i c e d i m a n y   c ount r i e s , a c c ur a t e   a nd  m os t  s ui t a bl e  t r e a t m e nt a nd  t i m e l y  di s e a s e  pr e di c t i ons  a r e  s o m e  o f   t he   c ha l l e ng e s   [ 7] U s e   of   A I   t e c hnol ogy   i s   dr a s t i c a l l y   h e l pi ng   i pr e di c t i ng   t he   f ut ur e ge ne r a t i ng   e xpe c t e d   r e s ul t s pr o v i di ng   s ugg e s t i ons   i s uc v e r y   c o m pl e pr obl e m s T he   i n v e nt i on  of   X A I ,   a l ong   w i t t he   pow e r f ul  i m pl i c a t i ons  of  A I   w or ks   w e l l m a ki n g   A I  t e c hnol ogy  s e r v e  hu m a nki nd t o a  gr e a t   e xt e nt .   X A I   i s   a   r e c e nt   r e s e a r c f i e l w he r e   t he   s ol ut i ons   pr ov i de by   A I   a l g or i t h m s   a r e   e xpl a i ne d.    W i t X A I t he   s ol ut i ons   pr ov i de b y   a   NN   a r e   e x a m i ne a nd  pos s i bl y   i nt e r pr e t e by   a e xpe r t .   I nt e r p r e t a bl e / e xpl a i na bl e / t r a ns pa r e nt   ML   i s   a   s e t   of   t ool s   a nd  f r a m e w o r ks   or   m e t hods   f or   unde r s t a ndi ng   t he   pr e di c t i ons   of   A I   a l g or i t h m s   [ 8] E x pl a i na bl e   A I   a nd  t r a ns pa r e nt   A I   a r e   t he   t e r m s   us e i nt e r c ha n g e a bl y X A I   i s   a   t e c hnol og y   t ha t   m a ke s   t he   M L   m ode l s   i nt e r pr e t a bl e I f   t he   A I   m ode l   i t s e l f   i s   i nt e r pr e t a bl e   a l l   pr e di c t i ons   m a de   b y   t he   m ode l   i s   t he m s e l v e s   e xpl a i na bl e X A I   c on v e r t s   bl a c box  A I   m od e l   i nt a   w hi t e   box  m ode l I t  i nt r oduc e s  t r a ns pa r e n c y  i n t he  s ol ut i ons  pr ov i de d.  H o w e v e r , i t  i s  s t i l l   v a s t l y  u nde r  de v e l op m e n t   t o br i dg e  t he  ga p be t w e e n r e s e a r c h e r s  a nd  m a c hi ne s I nt e r pr e t a bi l i t y / e xpl a i na bi l i t y  c a n be  d e f i ne d a s     K no w i ng  t he  r e a s on be hi nd t he  de c i s i on.     M a i nt a i ni ng  c ons i s t e nc y  i n m ode l s  pr e di c t i on.     M a ki ng  pr e di c t i ons  ba s e d on t he  f e a t ur e   v a l ue s .     U nde r s t a nd  m od e l s  out put s  f or  c l a s s i f i c a t i on a nd r e g r e s s i on t a s ks     S how s  c ont r i but i on of  e a c h f e a t ur e  i n t e r m s  of  f e a t ur e  i m por t a n c e   H i g he r   t he   i nt e r pr e t a bi l i t y i t  i s   e a s i e r   t o   unde r s t a nd t he   de c i s i on s   or  pr e di c t i ons   m a de   by   t he   m ode l .   F e w   of   t he   be ne f i t s   a c hi e v e t hr oug e xpl a na t i ons   a r e   i nc r e a s e s oc i a l   a c c e pt a nc e unde r s t a ndi ng   t he     s c i e nc e   be hi nd  t he   s ol ut i ons   g e ne r a t e by   A I   a l g or i t h m s i nc r e a s e r e s e a r c pur pos e a c c ur a c y f i de l i t y ,   c ons i s t e nc y s t a bi l i t y c om pr e he ns i bi l i t y c e r t a i nt y de g r e e   of   i m por t a nc e no v e l t y a nd  r e pr e s e nt a t i v e ne s s .   U s e r s   c a v e r i f y   w he t he r   t he   m ode l   i s   be ha v i ng   a s   e xpe c t e d,  r e c o g ni z e   bi a s e s   i m ode l s ,   a nd  g e t   i de a s   f or   Evaluation Warning : The document was created with Spire.PDF for Python.
                      I S S N :   2502 - 4752   I ndone s i a n J  E l e c  E n g  &  C om p S c i V ol 40 , N o.  1 ,   O c t obe r   20 25 :   2 88 - 296   290   w a y s   t i m pr o v e   t he   m ode l   a nd  t r a i ni ng  da t a T he s e   e xpl a na t i ons   a r e   a l s us e f ul   t t he   de v e l ope r B e r t os s i   a nd  G e e r t s   [ 9]   s t a t e s   t ha t   de v e l ope r s   a nd  da t a   s c i e nt i s t s   c a v e r i f y   w he t he r   t he   m od e l   i s   be ha v i ng   a s   e xpe c t e d,  r e c o g ni z e   bi a s e s   i t he   m ode l s   a nd  g e t   i de a s   f or   w a y s   t i m pr o v e   t he   m ode l   a nd  t r a i ni ng   da t a .   I nt e r p r e t a bi l i t y   m a k e   A I   m ode l   pr e di c t i ons   t r a ns pa r e nt   a nd  t hus   i nc r e a s e s   a c c e pt a nc e   of   t he   r e s ul t s   by  bui l di ng   t he   t r us t   of   us e r s A s   m ode l s   be c o m e   m or e   c o m pl e x,  t he   t a s of   pr od uc i ng   a i nt e r pr e t a bl e   v e r s i on   of  t he   m ode l  be c o m e s   m or e  di f f i c ul t . S o, i t  i s  t r ue  t ha t   one  e xpl a na t i on doe s  no t  f i t  a l l  [ 10] .   I nt r i ns i c   m ode l - s pe c i f i c   m e t hods   i ns pe c t   m od e l   c o m pone nt s   a s   a   p a t i DT   or   a   r ul e   i n   de c i s i on  r ul e   or   a   w e i g ht   of   a   f e a t ur e F r o m   t he   r e g r e s s i on  m ode l s c ons i de r   t he   LR   m ode l i t   pr e di c t s   t he   t a r g e t   a s   a   w e i g ht e s u m   of   t he   f e a t ur e   i nput s   w he r e   f e a t ur e s   c oul be   nu m e r i c ,   bi na r y c a t e g or i c a l   or   i nt e r c e pt   t y pe .   W hi l e   l og i s t i c   r e g r e s s i on  m ode l i nt e r pr e t s   c l a s s i f i c a t i on  pr oba bi l i t i e s   w i t h t w pos s i bl e   ou t c o m e s I ns t e a of   pl ot t i ng   s t r a i g ht   l i ne a   l og i s t i c   f unc t i on  i s   us e t o   s que e z e   t he   out put   of   a   l i ne a r   e qua t i on   be t w e e a nd  1.   T he   DT   f i nds   t he   r e l a t i ons hi be t w e e f e a t ur e s   a nd  out c om e   w hi c a r e   nonl i ne a r I nt e r a c t i on  a m on g   f e a t ur e s   i s   c ons i de r e d.  T h e   de c i s i on  r ul e   i s   a   s i m pl e   I F - T H E N   s t a t e m e nt   w i t c ondi t i on  a nd  t he pr e di c t i on.     F e w   m or e   i nt r i ns i c   m ode l   s pe c i f i c   m e t hods   a r e   R ul e F i t ,   g e ne r a l i z e l i ne a r   m ode l   ( G L M ) ge ne r a l i z e a ddi t i v e   m od e l   ( G A M ) , N a ï v e  B a y e s ,   a nd  K - ne a r e s t  ne i g hbour   ( K NN ) a s   m e nt i one d by  L i a nd C ha ng   [ 11] .   G ui dot t i   e t   al .   [ 12]   s t a t e f e w   t ool s   or   m e t hods   w hi c a r e   de s i g n e f or   m ode l   a g nos t i c   i nt e r pr e t a t i ons   a r e :   r e v e r s e t i m e   a t t e nt i on  m ode l   ( R E T A I N )   w hi c h   w o r ks   on  r e c ur r e nt   ne ur a l   n e t w o r ks   ( R N N ) l a y e r -   w i s e   r e l e v a nc e   pr opa ga t i on   ( L R P ) l oc a l   i nt e r pr e t a bl e   m ode l - a g nos t i c   e xpl a na t i ons   ( L I M E ) pa r t i a l   de pe nde nc e  pl ot   ( P D P ) i ndi v i dua l  c ondi t i ona l  e xpe c t a t i on/ i m pa c t  c onf i de nc e   e a s e   ( I C E ) p e r m ut a t i on f e a t ur e   i m por t a n c e a c c u m ul a t e l oc a l   e f f e c t s   ( A L E )   p l ot f e a t ur e   i nt e r a c t i on,  s c ope r ul e s   ( A nc hor s ) E L I 5,  K e r ne l   S H A P .       2.   B R E A S T  C A N C E R   P R E D I C T I O N  U S I N G  G E N O M I C  D A T A S E T -   A  C A S E  S T U D Y   B r e a s t   c a nc e r   i s   t he   c o m m on  t y pe   o f   c a nc e r   s e e i I ndi a   a nd  w or l d - w i de   [ 13] C a nc e r   pr o g nos i s   i s   pos s i bl e  us i ng  G e ne  e xpr e s s i on da t a s e t . R i g or ous  s t udi e s  a r e  be i ng  c a r r i e d out  a c r os s  t he   w or l t o f i nd   c a nc e r   bi om a r ke r s C a nc e r   di s e a s e   ne e ds   pa t i e nt   s pe c i f i c   t r e a t m e nt   [ 14] C om m on  t r e a t m e nt   doe s   not   s ui t   e v e r pa t i e nt D a s   e t   al .   [ 15]   e xp l a i ns   t ha t   g e ne   e xpr e s s i on  i s   t he   pe r f e c t   bi om a r ke r   f or   g i v i n g   pa t i e nt   s pe c i f i c   t r e a t m e nt R e s e a r c h e r s   ha v e   f ound  s pe c i f i c   g e ne s   t ha t   m ut a t e   i s pe c i f i c   t y pe s   of   c a n c e r s I f   a   pa t i e nt   pe r f or m s   g e n e   t e s t i ng   f or   s pe c i f i c   g e ne s c a n c e r   c a be   de t e c t e a t   a e a r l y   s t a g e D e t e c t i on  of   c a nc e r   a t   a n   e a r l y   s t a g e   i nc r e a s e s   t he   c ha nc e s   of   a   pa t i e nt s   s ur v i v a l P a t hol og i e s   l i ke   M e t r opol i s   i n   I ndi a   a r e   of f e r i n g e ne  t e s t i ng   a t  a n a f f or d a bl e  c os t     2.1 .     D at as e t   s ou r c e   T e xpl a i t he   A I / M L   m ode l   e xpl a i na bi l i t y   a nd  r e l i a bi l i t y   in   t he   he a l t hc a r e   dom a i n,  w e   ha v e   t a ke n   B r e a s t   C a nc e r   g e ne   e xpr e s s i on  da t a s e t   f r o m   U C I   ML   r e pos i t or of   M L   da t a ba s e s   ( C e nt r e   f or   ML   a n d   i nt e l l i g e nt   s y s t e m s )   f r o m   N a t i ona l   I ns t i t ut e   of   D i a b e t e s   a nd  D i g e s t i v e   a nd  K i dne D i s e a s e s   [ 16] T h e   obj e c t i v e   i s   di a g nos t i c a l l y   pr e di c t i ng   w he t he r   a   pa t i e nt   ha s   br e a s t   c a nc e r   m a l i g na nc y   or   not ba s e on  c e r t a i n   di a g nos t i c   m e a s ur e m e nt s   i nc l ude i n   t he   da t a s e t .   F r om   t he   br e a s t   c a nc e r   g e n e   e xpr e s s i on  da t a s e t ,   21   g e ne s   a r e   i .e . ,   B R C A 1,  B R C A 2,  P A L B 2,  C H E K 2,  C D H 1,  P T E N S T K 11,  T P 53,  A T M B A R D 1 B R I P 1,  C A S P 8 C T L A 4,   C Y P 19A 1,  F G F R 2,  L S P 1,  M A P 3K 1,  M R E 11A ,   N B N R A D 51,  T E R T   a r e   t a ke n T h e s e   g e n e s   a r e   t e s t e d us i ng  M i c r oa r r a y  t e s t i ng  a s  s t a t e d by   [ 17 ] . T hi s  da t a s e t  c ont a i ns  da t a  of  1 , 078 pa t i e nt s .     2.2   P r e d i c t i on   t e s t s   D i f f e r e nt   ML   a l g or i t h m s  a r e  t e s t e d on t hi s  da t a s e t . S V M  i s   g i v i n g  97.68 %  pr e di c t i on a c c u r a c y   w i t h   99%   pr e c i s i on,  96%   r e c a l l   a nd  97%  F 1 - s c or e N a ï v e   B a y e s   a l g or i t h m   g i v e s   92.59%   pr e di c t i on  a c c ur a c y   w i t h   94%   pr e c i s i on,  91%   r e c a l l   a nd  92%   F 1 - s c or e DT   a l g or i t h m   g i v e s   98.98%   pr e di c t i on  a c c ur a c y   w i t 96%   pr e c i s i on,  95%   r e c a l l   a nd  96%   F 1 - s c or e K - N N   a l g or i t h m   g i v e s   93.05%   pr e di c t i on  a c c ur a c y   w i t 100%   pr e c i s i on, 86%  r e c a l l  a nd 92%  F 1 - s c or e .   T he   pe r f or m a nc e   of   ML   a l g or i t h m s   m e nt i one a bo v e   s how s   t ha t   t he y   a l l   a r e   pe r f or m i ng   w e l l A n s of t w a r e   de v e l ope r   c a e a s i l y   t r us t   t he s e   a l g o r i t hm s   f o r   ge ne r i c   a ppl i c a t i ons B u t   t he   doc t or s c l i ni c i a ns   or   m e di c a l  e xpe r t s  w ho t r e a t  pa t i e nt s , c onduc t  he a l t hc a r e  r e s e a r c h, de v e l op  m e di c i ne s  a nd  v a c c i ne s  a r e  ba s e d o n   t he i r  know l e d g e e xpe r i e nc e  a nd  m a i nl y  pa t i e nt s  hi s t or i c a l  da t a   w i t h di s e a s e  s ym pt o m s , a ge , a nd  m a n y  ot he r   f a c t or s D i s e a s e   pr e di c t i on  f or   a   p a t i e nt   us i ng   A I / M L   t e c hnol o g m us t   r e a di l be   unde r s t ood  by   m e di c a l   pr a c t i t i one r s   of   a l l   e xpe r i e nc e   l e v e l s T h e y   s houl unde r s t a nd  t he   c a us e   of   de c i s i ons , be   a bl e   t r e l a t e   f e a t ur e   v a l ue s   of   i ns t a nc e   t i t s   pr e di c t i on,  know   t he   r e a s on  be hi nd  c l a s s i f i c a t i on  a nd  pr e di c t i on  r e s ul t s a nd  t unde r s t a nd  w hi c f e a t ur e   ha s   c ont r i but e i t he   pr e di c t i on  a nd  w ha t   v a l ue   of   f e a t ur e   w a s   c ons i de r e i t he   pr e di c t i on.  ML   a l g or i t h m s   m us t   e xpl a i t t he   doc t or s   w h y   a   pa t i e nt   i s   pr e di c t e c a nc e r   p os i t i v e   or   ne g a t i v e   br i ng i ng  t r us t  i n de c i s i ons . T he   m a c hi ne  pr e di c t e d r e s ul t s   s houl d be  a udi t a bl e , c om pl y v a l i da t e , a nd de bug .   Evaluation Warning : The document was created with Spire.PDF for Python.
I ndone s i a n J   E l e c  E n g  &  C om p S c i     I S S N :   2502 - 4752       I m pr ov i ng b r e as t  c anc e r  pr e d i c t i on  t hr ough e x pl a i nab l e  ar t i f i c i a l  i nt e l l i ge nc e     ( R e e na L o k ar e )   291   3.   I N T E R P R E T A T I O N  O F  M A C H I N E  L E A R N I N G  M O D E L S  WI T H  E X P L A N A B L E   A I   I t hi s   s e c t i on  w e   w i l l   s e e   how   t he   pr e di c t i ons   or   r e s ul t s   or   s ug ge s t i ons   g i v e by   A I / M L   m ode l s   a r e   e xpl a i ne or   i nt e r pr e t e f or   c o m pl e he a l t hc a r e   a ppl i c a t i ons   us i ng   t he   r e c e nt   t e c hnol ogy   e xpl a i na bl e   A I .     T he  t r a ns pa r e nc y  a nd t he  t r us t w or t hi ne s s  of  i nt r i ns i c  m ode l - s pe c i f i c   a nd pos t - hoc  i .e ., m od e l - a g nos t i c  m od e l s   a s   m e nt i one by   M i t r os   a nd  M a c   N a m e e   [ 18]   a r e   pr e s e nt e w i t t he   c a s e   s t udy   on  br e a s t   c a nc e r   da t a s e t .     F or   a i n t r i ns i c   m ode l - s pe c i f i c   m e t hod,  a   s i m pl e   LR   m ode l   i s   e xpl a i ne w hi c i t s e l f   i s   e x pl a i na bl e   w i t t he   he l of   a v a i l a bl e   f un c t i ona l i t i e s S uc e xpl a na t i ons   a r e   not   pos s i bl e   w i t a l l   t he   ML   m ode l s   due   t t he i r   c o m pl e x na t ur e . F or  pr e di c t i ng  r e s ul t s  of  pos t - hoc  m ode l - a g nos t i c  e xpl a na t i ons , L I M E  i s  i n t e r pr e t e d.     3.1   I n t r i n s i c   m od e l - s p e c i f i c  l i n e ar  r e gr e s s i on  m od e l   LR   m ode l   g i v e s   t he   out put   f r o m   t he   s u m   of   t he   w e i g ht s   of   t he   f e a t ur e   i nput s K i m   e t   al .   [ 19]   m e nt i ons   l i ne a r   m ode l s   a r e   e a s i e s t   t i nt e r pr e t M ode l - s pe c i f i c   e xpl a na t i ons   a r e   e a s i l y   pos s i bl e   w i t t he   LR   a l g or i t h m .   LR   c a n be  f or m ul a t e d a s  s how n i ( 1 ) .        =   0   +   1 1   +   2 2   +   3 3   +   +      ( 1)     W he r e   Y i   i s   t he   t a r ge t X i   r e pr e s e nt s   t he   i nput   f e a t ur e β i s   c a l l e t he   i nt e r c e pt   t e r m   a nd  i s   t he   c ons t a nt   Β i  r e pr e s e nt s  t he   w e i g ht  of  t he  i nput  on t he  f i na l  out put . ϵ  i s  c a l l e d t he  noi s e  of  t he   m ode l T he  t a s k he r e  i s  t o   t r a i n,  t e s t   a nd  e xpl a i t ha t   a   p a t i e nt s   br e a s t   c a nc e r   i s   be ni g n   or   m a l i g n a nt   w i t t he   g i v e da t a s e t a ppl y i n LR   w i t P y t hon.   I ni t i a l l y   r e l e v a nt   l i br a r i e s   a nd  pa c ka g e s   a r e   l oa de d,  t he   da t a s e t   i s   r e a a nd  v i e w e d,  c ol u m n s   a nd  obs e r v a t i ons   a r e   s e e f r o m   t he   da t a s e t U s i n g   t he   s t a t s   m ode l   pa c ka g e   f r o m   P yt hon  c oe f f i c i e nt s   t - s t a t i s t i c s ,   s t a nda r e r r or s a nd  p - v a l ue s   f or   e a c f e a t ur e   a r e   m e a s ur e a s   s ho w i t he   F i g ur e   1.  T h e   c onf i de nc e   i nt e r v a l s   v a l ue s   of   f e a t ur e s   a r e   i de nt i f i e a s   s how i F i g ur e   2.   T he   c oe f f i c i e nt s   v a l ue s   a nd   s t a nda r d e r r or s  c a n be  pl ot t e d a s  s how n i F i g ur e  3.           F i g ur e  1.  S um m a r y  of   LR s  out put  us i ng  s t a t s  m ode l  pa c ka g e           F i g ur e  2. C onf i de nc e  i nt e r v a l   v a l ue s  of  f e a t ur e s   Evaluation Warning : The document was created with Spire.PDF for Python.
                      I S S N :   2502 - 4752   I ndone s i a n J  E l e c  E n g  &  C om p S c i V ol 40 , N o.  1 ,   O c t obe r   20 25 :   2 88 - 296   292       F i g ur e  3. C oe f f i c i e nt   v a l ue s  a nd s t a nda r d e r r or   pl ot       3.2   P os t - h oc   m od e l - agn os t i c   L I M E   m od e l   M ode l - a g nos t i c   m e t hods   a r e   m or e   f l e xi bl e   a nd  m o r e   us a bl e   c o m pa r e t m ode l - s pe c i f i c   m e t hods .   T he s e   m e t hods   c a be   a ppl i e t a ny   ML   m ode l L I M E   i s   a e xa m pl e   of   a   pos t - hoc   m ode l - a g nos t i c   m e t hod.   L I M E   c a e xpl a i t he   pr e di c t i o ns   m a de   by   a n y   M L   m ode l   l i ke   LR a nd  D T   c l a s s i f i e r I t   pr o v i de s   a n   i ndi v i dua l   a nd   l oc a l   e xpl a na t i on  of   a   d e c i s i on  a f t e r   i t   ha s   be e n   m a de I t   m odi f i e s   a   s i ngl e   da t a   s a m pl e   b t w e a ki n g   t he   f e a t ur e   v a l ue s   a nd  obs e r v e s   t he   r e s ul t i ng   i m p a c t   on  t he   out pu t   by   c r e a t i ng   a   n e w   da t a s e t   ha v i n s a m pl e s  pe r m ut e a nd t he  ne w  p r e di c t i ons  on t he  m ode l   T he  i nt e r pr e t a bl e   m ode l  i s  t r a i ne d on t hi s  ne w l y   g e ne r a t e d da t a s e t T hi s  ne w   m o de l  ha s  l e s s  l os s  a s  i t   f i nds   t he   c l os e ne s s   of   t he   e xpl a na t i on  t t he   pr e di c t i on  of   t he   i n i t i a l   m ode l T hus L I M E   g i v e s   e xpl a na t i ons   w i t t he   he l of   t he   c ont r i but i on  of   e a c f e a t ur e   f or   t he   pr e di c t i on  a nd  f i nds   w hi c f e a t ur e   c ha nge s   w i l l   ha v e   t he   i m pa c t   o t he   pr e di c t i on  [ 20 ] [ 21] H e r e   l e t   s e e   ho w   t he   pr e di c t i ons   m a de   b y   t he   DT   c l a s s i f i e r   a r e   e xpl a i ne w i t t he   he l of   t he   L I M E   m od e l   a s   s how i F i g ur e   4.  T he   g e ne s   t ha t   a r e   us e f or   m a ki ng   t h e   pr e di c t i on  by   t he   c l a s s i f i e r   a r e   s how a l ong   w i t t he   g e ne v a l ue s A l s o,  t he   g e n e s   t ha t   po s i t i v e l y   c ont r i but e   i t he   pr e di c t i ons   a r e   s how i g r e e c ol or   a nd  one   w hi c ne g a t i v e l y   c ont r i but e   i t he   pr e di c t i on  a r e   s how i or a ng e   c ol or .   T he   L I M E   m ode l   ha s   a   not e book  f e a t ur e   w hi c e xpl a i ns   pr e di c t i on  r e s ul t s   i m o r e   de t a i l   a s   s how n i n F i g ur e  5.   T hi s   i s   t he   pr e di c t i on   m a de   f or   one   i ns t a nc e T he   not e book  s how s   f e a t ur e s   t ha t   pos i t i v e l y   c ont r i but e   t t he   pr e di c t i ons   a nd   i t   a l s s how s   f e a t ur e s   t ha t   ne g a t i v e l y   c ont r i but e   t t he   pr e di c t i ons I t  a l s s how s   w hi c h   f e a t ur e s   a r e   us e f or   t he   pr e di c t i on  a nd   w ha t   v a l ue s   of   t he   f e a t ur e s   a r e   us e d.  I t   he l ps   t he   do c t or   t unde r s t a nd   a nd  f i nd  w hi c g e ne s   a r e   m ut a t e d.  I f   s pe c i f i c   g e ne s   a r e   m ut a t e i a   pa t i e nt i t   i ndi c a t e s   t ha t   t he   pa t i e nt   i s   l i ke l y   t de v e l op  c a nc e r   s oon.  I c a s e   of   hi g he r   c ha nc e s   of   de v e l opi ng   c a nc e r t r e a t m e nt   c a be   s t a r t e d   i m m e di a t e l y   w i t t he   h e l of   m or e   t e s t i ng pr e c a ut i ons a nd  m e di c a t i ons   [ 22 ] - [ 25] B y   g e ne r a t i ng   t h e   c l a s s i f i c a t i on  r e por t   a nd  pr e di c t i ng   t he   m a c r a v e r a ge w e i g ht e a v e r a g e   a c c u r a c y   w i t pr e c i s i on r e c a l l   a nd  F  m e a s ur e  t he  s ugge s t e d r e s ul t s  be c o m e  e xpl a i na bl e .           F i g ur e  4. L oc a l  e xpl a na t i ons  of   DT   c l a s s i f i e r  b y   L I M E   Evaluation Warning : The document was created with Spire.PDF for Python.
I ndone s i a n J   E l e c  E n g  &  C om p S c i     I S S N :   2502 - 4752       I m pr ov i ng b r e as t  c anc e r  pr e d i c t i on  t hr ough e x pl a i nab l e  ar t i f i c i a l  i nt e l l i ge nc e     ( R e e na L o k ar e )   293       F i g ur e  5. L I M E  N ot e book e xpl a i ni ng  pr e di c t i ons   m a de  b y  t he   DT   c l a s s i f i e r       4.   R E S U L T S   T he   i m pl e m e nt e r e s ul t s   f or   i nt r i n s i c   m ode l - s pe c i f i c   a nd  pos t - hoc   m ode l   a g nos t i c   e xpl a i na bl e   A I   m e t hods   c onc l ude   t ha t   A I / M L   a l g o r i t h m   pr e di c t i ons   c a be   m a de   us a bl e t r us t w or t hy r e l i a bl e a nd  m or e   i m por t a nt l y   a c c e pt a bl e   i t oda y s   c om pl e a ppl i c a t i ons   l i ke   he a l t hc a r e   4.0.  X A I   m od e l s   s h ow   t ha t   t he   r e s ul t s   of   a ny   ML   a l g o r i t hm   c a be   e xpl a i ne t o   a l l  l e v e l s   of   us e r s m a ki n g   t he m   t r us t   a nd  be l i e v e   t he   c or r e c t ne s s   of   pr e di c t e r e s ul t s X A I   p a c ka g e s   a r e   a v a i l a bl e   i P y t hon  a s   w e l l   a s   R   pr o g r a m m i ng  l a n g ua ge s   c ha n g i n g   t h e   bl a c k - box na t ur e  of  M L  a l g or i t h m s  i nt o c o m pl e t e l y  t r a ns pa r e nt   w hi t e - box  m ode l s .       5.   C O N C L U S I O N   T oda y   e v e r y   bus i ne s s   s e c t or ,   i ndus t r y   or   or g a ni z a t i on  i s   i m pl e m e nt i ng  I ndus t r 4.0  s t a nda r ds   w i t h   de m a nd  f or   a udi t i ng t r us t a nd  r e l i a bi l i t y T he   e xpl a i na bl e / I nt e r p r e t a bl e   t r a ns pa r e nt / r e l i a bl e   A I   pr e s e nt e i n   t hi s   c ha pt e r   f oc us i ng   he a l t hc a r e   4.0  i s   a   s t e p   t ow a r ds   bui l di ng   c onf i de nc e   i A I   t e c hnol o gi c a l   t r e nds   f or   t he   be t t e r m e nt   of   hu m a nki nd.  T r a ns a p a r e nc a l s l e a ds   t a c c e pt a nc e   of   A I   t e c hnol ogy   e s pe c i a l l y   i he a l t hc a r e .   T hi s   c ha pt e r   ha s   pr e s e nt e t he   s c ope   f or   a dopt i ng   A I   i c o m pl e a ppl i c a t i ons   l i ke   he a l t hc a r e   w i t a   c onc e r n   a bout   ha r m   t one s e l f   a nd  t a   s oc i e t y C ha pt e r   f o c us e s   on  t he   e xpe c t a t i ons   f r o m   A I   r e s ul t s   t s uppor t   r e a s oni ng   a nd  e v i de n c e   f or   p r e di c t e out c o m e s   a nd  f i na l l y   pr o v i de s   t he   s ol ut i on  i t e r m s   of   e xpl a i na bl e   A I   s e r v i n g   t hi s   j ob.  A ny   h u m a be i ng   i s   a l w a y s   c ur i ous   t ow a r ds   t he   w o r l d,  i .e . ,   t ow a r ds   know i ng   t he   r e a s ons   be hi nd  e v e r e v e nt H e n a c e   X A I   i s   s uc t e c hnol ogy  w hi c he l ps   t he   us e r   kno w   t he   f a c t s hi dde know l e dge   i t he   A I   m ode l s   pr e di c t i ons O nc e   t he s e   f a c t s   a r e   know t t he   u s e r ,   t r us t   i s  bui l t   a nd  a c c e pt a nc e   of   A I   a l s o   i nc r e a s e s A l s o,   i t   i s   c l e a r   f r om   t he   e xpl a na t i on  w he t he r   t he   A I   m od e l   i s   m a ki ng   de c i s i ons   e t hi c a l l y H e n c e ,   i hi g h - i m p a c t   do m a i s uc a s   he a l t hc a r e   us e   of   X A I   ha v e   be c o m e   m a nda t or y B ut   t he r e   a r e   s o m e   s i t ua t i ons   w he r e   e xpl a na t i ons   a r e   not   i m por t a nt   s uc a s   p r obl e m s   w he r e   s ol ut i ons   w i l l   not   ha v e   m u c i m pa c t :   t a ke   e xa m pl e   of   A I   ba s e c he s s   g a m e   pl a y e f or   f un.  I t hi s   c a s e a ny   de c i s i on  t a ke by   t he   A I   g a m e   i s   not   g oi ng  t c r e a t e   a n y   i m a c t   on  t he   us e r H e nc e t he   pr e di c t i ons   w on t   ha v e   a n y   i m a c t   l i ke   l os s   o r   g a i n.  S d m a i ns   s uc a s   e nt e r t a i nm e nt g a m e s f un  a r e   t e r m e a s   l ow - i m p a c t   c a us i ng   a r e a s   a nd  doe s n t   de m a nd  a n e xpl a na i ons   f or   A I   m ode l s   pr e di c t i ons W he r e a s   dom a i ns   s uc a s   he a l t hc a r e f i na nc e   a r e   hi g h - i m pa c t ,   c a us i ng  a r e a s   t ha t   de m a nd f o r  e xpl a na t i ons .   A l s o,   w h e r obl e m s   a r e   s t udi e w e l l   e . g .,  C ha r a c t e r   r e c o g ni t i on  a ppl i c a t i on.  I t   i s   no t   e x pe c t e i n   s uc a a ppl i c a t i on  t o   e xpl a i t he   pr e di c t i ons   m a de T he   pr obl e m   i s   r e a l l y   w e l l - de s i g ne a nd  doe s t   r e qui r e   a ny   e xpl a na t i on.  E i t he r   t he   c ha r a c t e r   i s   c l a s s i f i e c or r e c t l y   or   w r on g l y I f   A I   m ode l   i s   not   a bl e   t c l a s s i f y   t he   c ha r a c t e r   c or r e c t l y m ode l   t uni ng   n e e t be   done   i or de r   t i m pr o v e   t he   p r e di c t i on  a c c ur a c y   a nd  w he n   m od e l s   a r e   not   e xpe c t e t o   m a n i pul a t e T he r e   a r e   m od e l s   w hi c a r e   not   e xpe c t e t m a ni pul a t e   a nd  ha v e   j us t   a s s i s t a nc e i nf or m a t i v e a na l y t i c a l   r ol e s   s uc a s   de s c r i pt i v e   m ode l s di a g nos t i c   m ode l s pr e di c t i v e   m ode l s ,   a nd  r e s o m m n e da t i on  m ode l s T hus one   c a unde r s t a nd  t he   i m por t a nc e   of   X A I   i hi gh - i m p a c t   do m a i n.     U s e   of   X A I   e ns ur e s   e xpl a i na bi l i t y   w hi c he l s   i bui l di ng   t r us t   a nd  i nc r e a s e   a c c e pt a nc e   of   t he   A I   m ode l s .     I t  a l s o e ns ur e s  e t hi c a l  s t a nda r ds  a s  e v e r y t hi ng  i s  no w  i nt e r pr e t a bl e   O ne   of   t he   di s a d v a nt a ge s   of   X A I   t e c hnol ogy   l i e s   i i t s   i nt e r pr e t a bl e   na t ur e T a ke   a e x a m pl e   of   a   C r e di t   c a r f r a ud  de t e c t i on  s y s t e m I f   t he   e xpl a na t i ons   of   s uc a   s y s t e m   w i l l   be   unde r s t ood  by   t he   f r a u d   pe r s on onl y , t he n he   w i l l  t a ke  c a r e  not  t o t a ke  t he  i de nt i f i e d s t e ps  a nd w i l l  f i nd out  ot he r   w a y s  of  doi n g  f r a ud.   Evaluation Warning : The document was created with Spire.PDF for Python.
                      I S S N :   2502 - 4752   I ndone s i a n J  E l e c  E n g  &  C om p S c i V ol 40 , N o.  1 ,   O c t obe r   20 25 :   2 88 - 296   294   T hi s   a l t e r na t e   f r a ud  m i g ht   not   g e t   de t e c t e b y   t he   unde r l y i ng   m ode l T hus w i t s uc num e r ous   c a s e s   a   r e s e a r c s c ope   i s   ope f or   a s pi r a nt s   w ho  w a nt   t s e e   a   be t t e r   c onc r e t e   A I   t e c hnol og i c a l   f ut ur e   w i t h   e xpl a i na bl e  A I       A C K N O WL E D G E M E N T S   T hi s   r e s e a r c i s   s uppor t e by  D r V i v e S unna pw a r P r i nc i pa l K J S o m a i y a   I ns t i t ut e   of   T e c hnol ogy M u m ba i W e   t ha nk  hi m   f or   a l l   t he   g ui da nc e   a nd  s uppor t   pr o v i de i t hi s   r e s e a r c h.  W e   a l s o   t ha nk our  f a m i l y   m e m b e r s  f or  t he i r  ki nd s uppor t .       F U N D I N G  I N F O R M A T I O N   A ut hor s  s t a t e  no f undi ng  i n v ol v e d.       A U T H O R  C O N T R I B U T I O N S  S T A T E M E N T   T hi s   j our na l   us e s   t he   C ont r i but or   R ol e s   T a xono m y   ( C R e di T )   t r e c og ni z e   i ndi v i du a l   a ut hor   c ont r i but i ons ,  r e duc e  a ut hor s hi p di s pu t e s , a nd f a c i l i t a t e  c ol l a bor a t i on.      N am e  of  A u t h or   C   M   So   Va   Fo   I   R   D   O   E   Vi   Su   P   Fu   R e e na  L oka r e                               J y ot i  M or e                               V a i s ha l i  S a r bhuka n                               M a ns i ng  R a t hod                               S a r i t a  R a t hod                               S uni t a   P a t i l                                 C     C on c e pt ua l i z a t i o n   M     M e t h o dol o g y   So     So f t w a r e   Va     Va l i da t i o n   Fo     Fo r m a l   a n a l ys i s   I     I n ve s t i g a t i o n   R     R e s our c e s   D   :   D a t a   C ur a t i on   O   :   W r i t i ng   -   O r i g i n a l   D r a f t   E   :   W r i t i ng   -   R e v i e w   &   E di t i ng   Vi     Vi s ua l i z a t i o n   Su     Su pe r vi s i on   P     P r oj e c t   a dm i n i s t r a t i o n   Fu     Fu n di ng   a c qui s i t i o n         C O N F L I C T  O F  I N T E R E S T  S T A T E M E N T   T he r e  i s  no c onf l i c t  of  i nt e r e s t .       D A T A  A V A I L A B I L I T Y   T he  da t a  us e d i n t he  r e s e a r c h i s  publ i c a l y  a v a i l a bl e  t o a c c e s s  a t   ht t ps : / / a r c hi v e .i c s .uc i .e du/ .       R E F E R E N C E S   [ 1]   S .   S pr e e u w e n be r g,   C h oos e   f o r   A I   a n f or   e x pl a i n a bi l i t y ,   i n   L e c t ur e   N ot e s   i C om put e r   Sc i e n c e   ( i n c l ud i ng  s ubs e r i e s   L e c t ur e   N ot e s   i A r t i f i c i al   I nt e l l i ge n c e   and  L e c t ur e   N ot e s   i B i oi nf or m at i c s ) ,   vol .   11878  L N C S ,   2020 ,   pp.   3 8.   [ 2]   J .   B or a n a ,   A pp l i c a t i o n s   of   a r t i f i c i a l   i nt e l l i g e n c e   &   a s s oc i a t e d   t e c h n ol o gi e s ,   P r oc e e di ng  of   I nt e r nat i onal   C on f e r e nc e   on  E m e r gi ng  T e c hn ol ogi e s   i E ngi ne e r i ng,   B i om e di c al ,   M anage m e nt   and  S c i e n c e   [ E T E B M S - 2016] ,   pp.   64 67,   2016.   [ 3]   R .   C i of f i ,   M .   T r a va g l i o n i ,   G .   P i s c i t e l l i ,   A .   P e t r i l l o,   a n F .   D e   F e l i c e ,   A r t i f i c i a l   i n t e l l i g e n c e   a n m a c h i n e   l e a r ni ng   a ppl i c a t i o n s   i s m a r t   pr oduc t i o n :   pr o g r e s s ,   t r e n ds ,   a n di r e c t i o n s ,   Sus t ai nabi l i t y ,   vol .   12,   n o.   2,   p.   492,   J a n .   2020,   doi :   10. 3390/ s u12020492.   [ 4]   R .   A r u n ,   E x pl a i n a bl e   A I :   f r o m   bl a c bo x   t gl a s s   box ,   J our nal   of   t he   A c ade m y   of   M ar k e t i ng  Sc i e nc e ,   vol .   4 8,   pp.   137 141 ,   2020.   [ 5]   Q .   V .   L i a o ,   M .   S i ngh,   Y .   Z h a ng,   a n R .   B e l l a m y,   I nt r oduc t i o n   t e xp l a i n a bl e   A I ,   i n   C onf e r e nc e   on  H um an  F ac t or s   i C om put i ng  Sy s t e m s   -   P r oc e e di ngs ,   M a 2021 ,   pp.   1 3,   doi :   10. 1145/ 3411763. 344501 6.   [ 6]   C .   R udi n ,   C .   C h e n ,   Z .   C h e n,   H .   H ua ng ,   L .   S e m e n ova ,   a n C .   Z h o ng,   I n t e r pr e t a bl e   m a c h i n e   l e a r n i ng :   f u n da m e n t a l   pr i n c i pl e s   a nd   10  g r a n c h a l l e ng e s ,   St at i s t i c s   Sur v e y s ,   vol .   16,   n o.   n o n e ,   pp.   1 85,   J a n .   2022,   doi :   10. 1214/ 21 - S S 133.   [ 7]   J .   Z u g a z a g o i t i a ,   C .   G ue de s ,   S .   P on c e ,   I .   F e r r e r ,   S .   M ol i n a - P i n e l o,   a n L .   P a z - A r e s ,   C ur r e n t   c h a l l e ng e s   i n   c a n c e r   t r e a t m e nt ,   C l i ni c a l   T he r ape ut i c s ,   vol .   38,   n o.   7,   pp.   1551 1566 ,   J ul .   2016,   doi :   10. 1016/ j . c l i n t h e r a . 2016. 03. 026.   [ 8]   F .   K .   D os i l ovi c ,   M .   B r c i c ,   a n N .   H l up i c ,   E x p l a i n a bl e   a r t i f i c i a l   i n t e l l i g e n c e :   a   s ur ve y ,   i n   2018  41s t   I nt e r nat i ona l   C onv e nt i on  on   I nf or m at i on  and  C om m uni c at i on  T e c hn o l ogy ,   E l e c t r oni c s   and  M i c r oe l e c t r oni c s   ( M I P R O ) ,   M a 2018 ,   pp.   0210 0215 ,     doi :   10. 23919/ M I P R O . 2018. 8400040.   [ 9]   L .   B e r t os s i   a n F .   G e e r t s ,   D a t a   qua l i t a n e x pl a i n a bl e   A I ,   J our nal   of   D at and  I nf o r m at i on  Q ual i t y ,   vol .   12,   n o.   2,   pp.   1 9,   J un .   2020,   doi :   10. 1145/ 3386 687.     Evaluation Warning : The document was created with Spire.PDF for Python.
I ndone s i a n J   E l e c  E n g  &  C om p S c i     I S S N :   2502 - 4752       I m pr ov i ng b r e as t  c anc e r  pr e d i c t i on  t hr ough e x pl a i nab l e  ar t i f i c i a l  i nt e l l i ge nc e     ( R e e na L o k ar e )   295   [ 10]   R .   H a m o n,   H .   J un kl e w i t z ,   a n I .   S a n c h e z ,   R obus t n e s s   a n e x pl a i n a bi l i t of   a r t i f i c i a l   i n t e l l i g e n c e ,   J oi nt   R e s e ar c C e nt r e   ( E ur ope an  C om m i s s i on) ,   p.   40,   2020 ,   [ O n l i n e ] .   A va i l a bl e :   h t t ps : / / publ i c a t i o n s . j r c . e c . e ur opa . e u/ r e pos i t or y/ bi t s t r e a m / J R C 119336 / dpa d_r e po r t . pdf ? r e f = h t t ps : / / g i t hub h e l p. c o m .   [ 11]   Y .   L i n   a n X .   C h a ng,   T o w a r ds   i n t e r p r e t i ng   M L - ba s e a ut o m a t e m a l w a r e   de t e c t i o n   m ode l s :   a   s ur ve y,   A r X i v   pr e pr i nt ,   2021 ,   [ O n l i n e ] .   A va i l a bl e :   h t t p: / / a r x i v. or g/ a bs / 2101. 06232.   [ 12]   R .   G ui dot t i ,   A .   M o n r e a l e ,   S .   R u gg i e r i ,   F .   T ur i n i ,   F .   G i a nn ot t i ,   a n D .   P e dr e s c h i ,   A   s ur ve of   m e t h ods   f o r   e x p l a i n i ng   bl a c bo m o de l s ,   A C M   C om put i ng  Sur v e y s ,   vol .   51,   n o.   5,   pp.   1 42,   S e p.   2019,   doi :   10. 1145/ 32360 09.   [ 13]   D .   V .   C a r va l h o ,   E .   M .   P e r e i r a ,   a nd  J .   S .   C a r dos o,   M a c hi n e   l e a r n i ng   i nt e r pr e t a b i l i t y:   a   s ur ve o n   m e t h od s   a n m e t r i c s ,   E l e c t r oni c s ,   vol .   8,   n o.   8,   p.   832,   J ul .   2019,   doi :   10. 3390/ e l e c t r o n i c s 8080832.   [ 14]   S .   G a n e s h   N ,   D .   R a h u l ,   S .   J yot s a n a ,   S .   P i us h,   a n S .   K . K . ,   V a r i o us   T ype s   a n m a n a g e m e n t   of   br e a s t   c a n c e r :   a n   ove r vi e w ,   J our nal   of   A dv anc e P har m a c e ut i c a l   T e c hn ol ogy   and  R e s e ar c h ,   vol .   1,   n o.   2,   pp.   109 126,   2010.   [ 15]   J .   D a s ,   K .   M .   G a yve r t ,   a n H .   Y u,   P r e di c t i ng   c a n c e r   pr o gn os i s   us i ng   f u n c t i o n a l   g e n o m i c s   da t a   s e t s ,   C anc e r   I nf or m at i c s   vol .   13s 5,   p.   C I N . S 14064,   J a n .   2014,   doi :   10. 4137/ C I N . S 14064.   [ 16]   M .   L i c hm a n ,   U C I   m a c h i n e   l e a r n i ng   r e pos i t o r y,   U n i ve r s i t of   C a l i f or n i a ,   S c h ool   of   I nf or m a t i o n   a nd  C om p ut e r   S c i e n c e ,   2016.   [ 17]   J .   G a e t   al . ,   I n t e gr a t i ve   a n a l ys i s   of   c om pl e x   c a n c e r   g e n o m i c s   a n c l i n i c a l   pr of i l e s   us i ng   t h e   c B i oP o r t a l ,   Sc i e nc e   Si gnal i ng   vol .   6,   n o.   269,   A pr .   2013,   doi :   10. 1126/ s c i s i gn a l . 2004088.   [ 18]   J .   M i t r os   a n B .   M a c   N a m e e ,   A   c a t e g o r i s a t i o n   of   P os t - h oc   e x pl a n a t i o n s   f or   p r e di c t i ve   m ode l s ,   A r X i v   pr e pr i nt ,   A pr .   2019 ,   [ O n l i n e ] .   A va i l a bl e :   h t t p: / / a r x i v. or g/ a bs / 1904. 02495.   [ 19]   H .   K i m ,   W . - Y .   L o h,   Y . - S .   S h i h,   a n P .   C h a ud h u r i ,   V i s ua l i z a bl e   a n i nt e r p r e t a bl e   r e g r e s s i o n   m ode l s   w i t h   g ood  pr e di c t i o pow e r ,   I I E   T r ans ac t i ons ,   vol .   39,   n o.   6,   pp.   565 579,   M a r .   2007,   doi :   10. 1080/ 0 740817060 0897502.   [ 20]   M .   R i be i r o,   S .   S i ngh ,   a n C .   G ue s t r i n ,   W hy  s h ou l i   t r us t   you? :   E x pl a i ni ng   t h e   pr e di c t i o n s   of   a n c l a s s i f i e r ,   i P r oc e e di ngs   of   t he   2016  C on f e r e nc e   of   t he   N or t h   A m e r i c an  C hapt e r   of   t he   A s s oc i at i on  f or   C om put at i onal   L i ngui s t i c s :   D e m on s t r at i ons ,   2016,     pp.   97 101,   doi :   10. 18653/ v1/ N 16 - 3020.   [ 21]   M .   R .   Z a f a r   a n N .   M .   K h a n ,   D L I M E :   a   de t e r m i n i s t i c   l oc a l   i n t e r pr e t a bl e   m ode l - a gnos t i c   e x pl a n a t i o n s   a p pr oa c h   f or   c o m pu t e r - a i de di a gn os i s   s ys t e m s ,   A r X i v   pr e pr i nt ,   2019 ,   [ O n l i n e ] .   A va i l a bl e :   h t t p : / / a r x i v. or g / a bs / 1906. 10263.   [ 22]   F .   G a bba y,   S .   B a r - L e v,   O .   M ont a n o,   a n N .   H a da d,   A   L I M E - ba s e e x pl a i n a bl e   m a c h i n e   l e a r n i ng   m ode l   f o r   pr e di c t i ng   t he   s e ve r i t l e v e l   of   C O V I D - 1 di a gn os e pa t i e n t s ,   A pp l i e Sc i e n c e s ,   vol .   11,   n o.   21,   p.   10417,   N ov.   2021,   doi :   10. 3390/ a pp112110417.   [ 23]   R .   E l S h a w i ,   Y .   S h e r i f ,   M .   A l M a l l a h ,   a n S .   S a kr ,   I nt e r pr e t a b i l i t i n   h e a l t h c a r e :   a   c om pa r a t i ve   s t udy  of   l oc a l   m a c h i n e   l e a r ni n i n t e r pr e t a bi l i t t e c hn i que s ,   C om put at i onal   I nt e l l i ge nc e ,   vol .   37,   n o.   4,   pp.   1633 1650 ,   N ov.   2021,   doi :   10. 1111/ c oi n . 12410.   [ 24]   S .   D e y   e t   al . ,   H u m a n - c e n t e r e e x pl a i n a bi l i t f or   l i f e   s c i e n c e s ,   h e a l t h c a r e ,   a nd  m e di c a l   i nf or m a t i c s ,   P at t e r ns ,   vol .   3,   n o.   5,     p.   100493,   M a 2022,   doi :   10. 1016/ j . pa t t e r . 2022. 100493.   [ 25]   Y .   Z h a ng ,   Y .   W e ng,   a n J .   L u n d,   A ppl i c a t i o n s   of   e x pl a i n a b l e   a r t i f i c i a l   i n t e l l i g e n c e   i n   di a gn os i s   a n s ur g e r y,   D i agnos t i c s   vol .   12,   n o.   2,   p.   237,   J a n .   2022,   doi :   10. 3390/ di a gn os t i c s 120202 37.       B I O G R A P H I E S  O F  A U T H O R S       Re e n a   L o k a r e           h o l d s   a   Do c to r   o f   P h i l o s o p h y   i n   C o m p u ter   E n g i n e e r i n g   d e g r e e   f r o m   M u m b a i   U n iv e r s i ty ,   I n d i a   i n   2 0 2 3 .   S h e   i s   wo r k i n g   a s   a n   a s s i s tan p r o f e s s o r   a K. J .   S o m a i y a   I n s ti tu te  o f   T e c h n o l o g y ,   M u m b a i ,   I n d i a .   S h e   h a s   n e a r l y   2 1   y e a r s   o f   tea c h i n g   e x p e r i e n c e .   He r   a r e a s   o f   e x p e r ti s e   i n c l u d e   d a ta  s tr u c tu r e s ,   a l g o r i th m s ,   a u to m a ta  th e o r y ,   s o f t   c o m p u ti n g ,   ML   a n d   DL a n d   b i o i n f o r m a ti c s .   S h e   h a s   n e a r l y   2 0   r e s e a r c h   p u b l i c a t i o n s   a n d   2   c o l l o b o r a ti v e   r e s e a r c h   p r o jec ts   i n   th e   h e a l th c a r e   d o m a i n .   S h e   c a n   b e   c o n tac ted   a e m a i l r e e n a . l @s o m a i y a . e d u .           Dr .   J y o t i   S u n il   M o r e           p u r s u e d   B . E .   C o m p u ter   S c i e n c e   E n g g .   ( 2 0 0 3 )   f r o m   S h i v a j i   U n i v e r s i ty ,   M . T e c h .   i n   C o m p u ter   E n g i n e e r i n g   ( 2 0 0 6 )   f r o m   Dr .   B . A. T . U. ,   L o n e r e   a n d   P h .   D.   i n   C o m p u ter   E n g g .   F r o m   U n iv e r s i ty   o f   M u m b a i   i n   2 0 1 9 .   S h e   h a s   m o r e   th a n   2 0   y e a r s   o f   T e a c h i n g   e x p e r i e n c e   a n d   i s   c u r r e n tl y   a f f il i a ted   to   F r .   C .   R .   I .   T ,   a f f il i a ted   to   M u m b a U n iv e r s i ty .   S h e   h a s   p u b l i s h e d   s e v e r a r e s e a r c h   p a p e r s   i n   i n ter n a ti o n a l   co n f e r e n c e s   a n d   jo u r n a l s .   He r   a r e a   o f   e x p e r ti s e   a r e   c o m p u ter   n e tw o r k s ,   d a tab a s e s ,   d a ta  m i n i n g ,   ML d a ta   s c i e n c e ,   a n d   AI .   S h e   c a n   b e   c o n tac ted   a e m a il :   jy o ti . m o r e @f c r i t. a c . i n .     Dr .   Va is h a li   V.   S a r b h u k a n   ( B o d a d e )           h a s   c o m p l e ted   h e r   P h . D .   ( I T )   i n   2 0 1 9   f r o m   M u m b a i   U n i v e r s i ty .   S h e   h a s   c o m p l e ted   h e r   M . E .   ( C o m p u ter )   a n d   B . E .   ( C S E )   i n   2 0 1 3   a n d   2 0 0 2   f r o m   M u m b a i   U n i v e r s i ty   a n d   Am a r a v a t i   U n iv e r s i ty   r e s p e c ti v e l y .   C u r r e n tl y   s h e   i s   wo r k i n g   a s   a s s o c i a te   p r o f e s s o r ,   De p a r tm e n o f   I n f o r m a ti o n   T e c h n o l o g y ,   F C R I T ,   Va s h i,   Na v M u m b a i .   S h e   h a s   1 9   y e a r s   o f   tea c h i n g   e x p e r i e n c e .   S h e   h a s   p u b l i s h e d   2 6   p a p e r s   i n   v a r i o u s   s c o p u s ,   S C I   a n d   i n ter n a ti o n a l   jo u r n a l   a n d   1 3   p a p e r s   i n   n a ti o n a l   a n d   i n ter n a t i o n a c o n f e r e n c e s .   He r   a r e a   o f   i n ter e s i s   s e c u r i ty ,   M L ,   d a ta  s c i e n c e ,   a n d   AI .   S h e   c a n   b e   c o n tac ted   a e m a il :   v a i s h a li . b o d a d e @f c r i t. a c . i n .       Evaluation Warning : The document was created with Spire.PDF for Python.
                      I S S N :   2502 - 4752   I ndone s i a n J  E l e c  E n g  &  C om p S c i V ol 40 , N o.  1 ,   O c t obe r   20 25 :   2 88 - 296   296     M a n s in g   Ra t h o d           As s o c i a te  p r o f e s s o r   i n   th e   d e p a r t m e n o f   I n f o r m a ti o n   T e c h n o l o g y ,   K . J .   S o m a i y a   I n s ti tu te  o f   T e c h n o l o g y ,   M u m b a i   U n iv e r s i ty   a n d   h a v i n g   2 4   y e a r s   e x p e r i e n c e   i n   tea c h i n g .   C o m p l e ted   P h . D .   i n   i m a g e   p r o c e s s i n g   d o m a i n   wi th   r e s e a r c h   a r e a   i . e . ,   R e s o l u ti o n   E n h a n c e m e n o f   S a tell i te   i m a g e .   He   h a s   a u th o r e d   o v e r   3 4   p e e r   r e v i e we d   c o n f e r e n c e   a n d   jo u r n a l   p a p e r s .   He   c o n d u c te d   s e v e r a l   n a t i o n a l   l e v e f a c u l ty   d e v e l o p m e n t   p r o g r a m s   u n d e r   AI C T E .   He   c a n   b e   c o n tac ted   a e m a il :   r a th o d m @s o m a i y a . e d u .         S a r it a   Ra t h o d           p e r u s i n g   a   Do c to r   o f   P h il o s o p h y   i n   C o m p u ter   E n g i n e e r i n g   d e g r e e   f r o m   M u m b a i   U n iv e r s i ty ,   I n d i a .   S h e   i s   wo r k i n g   a s   a n   a s s i s tan p r o f e s s o r   a K. J .   S o m a i y a   I n s ti tu te  o f   T e c h n o l o g y ,   M u m b a i ,   I n d i a .   S h e   h a s   n e a r l y   1 8   y e a r s   o f   tea c h i n g   e x p e r i e n c e .   He r   a r e a s   o f   e x p e r ti s e   i n c l u d e   d a ta  s tr u c tu r e s ,   M L   a n d   DL a n d   NL P .   S h e   h a s   n e a r l y   2 0   r e s e a r c h   p u b l i c a t i o n s .   S h e   c a n   b e   c o n tac te d   a e m a i l s a r i ta. r @s o m a i y a . e d u .         Dr .   S u n it a   P a t il           i s   a   d i r e c to r   a t   S VK M s   NM I M S   S h i r p u r ,   I n d i a .   S h e   i s   a   m e m b e r ,   B o a r d   o f   S tu d i e s   i n   C o m p u ter   E n g i n e e r i n g ,   U o M .   S h e   r e c e i v e d   P h . D.   i n   C o m p u ter   E n g i n e e r i n g   i n   th e   d o m a i n   d a ta  m i n i n g ,   b ig   d a ta,   a n d   d a ta  s c i e n c e .   S h e   i s   h a v i n g   a r o u n d   2 0   y e a r s   o f   tea c h i n g   a n d   a d m i n i s tr a t i v e   e x p e r i e n c e .   S h e   h a s   p u b l i s h e d   h e r   r e s e a r c h   wo r k   i n   v a r i o u s   r e c o g n i z e d   Na t i o n a l /I n ter n a t i o n a l   J o u r n a l s   a n d   c o n f e r e n c e s .   S h e   h a s   v i s i ted   v a r i o u s   i n ter n a ti o n a u n i v e r s i t i e s   a n d   o r g a n i z a t i o n s   f o r   a tt e n d i n g   c o n f e r e n c e s ,   k n o wl e d g e   s h a r i n g   a n d   e x c h a n g e   o f   i n f o r m a ti o n .   He r   p a s s i o n   i s   to   b r i n g   i n   v a r i o u s   o u tco m e - b a s e d   r e f o r m s   i n   th e   f i e l d   o f   a c a d e m i c s   c o n tr i b u ti n g   to   th e   g r o wth   o f   s o c i e ty ,   n a ti o n   a n d   wo r l d   a l a r g e .   S h e   c a n   b e   c o n tac ted   a e m a i l:   s p a ti l @s o m a i y a . e d u .     Evaluation Warning : The document was created with Spire.PDF for Python.