I nd o ne s ia n J o urna l o f   E lect rica l En g ineering   a nd   Co m pu t er   Science   Vo l.   40 ,   No .   2 N o v em b e r   2 0 2 5 ,   p p .   86 0 ~ 87 0   I SS N:  2502 - 4 7 5 2 ,   DOI : 1 0 . 1 1 5 9 1 /ijeecs.v 40 .i 2 . pp 860 - 87 0           860     J o ur na l ho m ep a g e h ttp : //ij ee cs.ia esco r e. co m   G eneral iz ed  do m a in t utoring   fram ewo rk f o AI  a g ents wi th  integra ted  ex pla i na ble AI  t ec hniq u es       L á s zló   Csépá ny i - F ürj es,  L á s zló   K o v á cs   I n st i t u t e   o f   I n f o r mat i o n   S c i e n c e ,   F a c u l t y   o f   M e c h a n i c a l   E n g i n e e r i n g   a n d   I n f o r mat i c s ,   U n i v e r si t y   o f   M i s k o l c ,   M i s k o l c H u n g a r y       Art icle  I nfo     AB S T RAC T   A r ticle  his to r y:   R ec eiv ed   Sep   25 2 0 2 4   R ev is ed   J u l   17 2 0 2 5   Acc ep ted   Oct   14 2 0 2 5       Th is  p a p e p r o p o se a   n o v e a p p r o a c h   to   in teg ra te  tu t o ri n g   f u n c ti o n a li ty   in t o   AI  sy ste m to   c o u n tera c th e   p o t e n ti a d e c li n e   o h u m a n   i n telli g e n c e   c a u se d   b y   AI - d riv e n   o v e r - a u to m a ti o n .   Ex isti n g   e x p lain a b le  AI  m e th o d p rima ril y   e m p h a siz e   tran sp a re n c y   wh il e   l a c k in g   in h e re n t   e d u c a ti o n a l   fu n c ti o n a li t y .   Co n se q u e n tl y ,   u se rs  a re   e ss e n ti a ll y   left  a p a ss iv e   re c ip ien ts  o AI - d riv e n   d e c isio n wit h o u a n y   stru c t u re d   lea rn in g   m e c h a n ism   i n   p lac e .   T o   a d d re ss   th is,   th is   p a p e i n tro d u c e t h e   k n o wle d g e - sh a ri n g - b rid g e   ( KSB) c o m p o n e n d e si g n e d   to   t ra n sfo r m   AI  in to   a n   a c ti v e   t u to r .   Un li k e   trad it i o n a l   in telli g e n t u to ri n g   sy ste m s   (IT S ) ,   wh ic h   o p e ra te  se p a ra tely   fro m   AI   d e c isio n - m a k i n g   p r o c e ss e s,  th e   KSB   is  e m b e d d e d   with in   AI  fr a m e wo rk s,   e n su rin g   c o n ti n u o u a n d   c o n te x t - a wa re   le a rn in g   o p p o rt u n i ti e s.  T h e   p ro p o se d   fra m e wo rk   u se stru c tu re d   k n o wl e d g e   re p re se n tatio n   t o o ls ,   su c h   a c a teg o r y   m a p s   a n d   wo rd - c l o u d s ,   t o   imp r o v e   th e   u se r’s  u n d e rsta n d i n g   o t h e   d e c isio n s   m a d e   b y   th e   AI  s y ste m s.  P ro to t y p e   imp lem e n tati o n   d e m o n stra tes   h o th e se   e lem e n ts  wo rk   to g e t h e to   p ro v id e   re a l - ti m e ,   in tera c ti v e   lea rn in g   e x p e rien c e s.  Th e   re su lt i n d ica te  th a i n teg ra ti n g   KSB   in to   AI   e n h a n c e b o th   e x p lain a b il it y   a n d   u se lea rn in g .   Th is  a p p ro a c h   p r o m o tes   a   m o r e   in - d e p th   in tera c ti o n   with   AI  i n sig h ts  a n d   e n a b les   AI  sy ste m t o   b e c o m e   li fe lo n g   lea rn in g   c o m p a n i o n s,   c lo sin g   t h e   g a p   b e twe e n   a u to m a ti o n   a n d   e d u c a ti o n .   K ey w o r d s :   Ar ch itectu r es f o r   e d u ca tio n al  tech n o lo g y   s y s tem   Ar tific ial  in tellig en ce   E x p lain ab le  AI   I n tellig en t tu to r in g   s y s tem   T h is i a n   o p e n   a c c e ss   a rticle   u n d e r th e   CC B Y - SA   li c e n se .     C o r r e s p o nd ing   A uth o r :   L ászló   C s ép án y i - r jes   I n s titu te  o f   I n f o r m atio n   Scien ce ,   Facu lty   o f   Me c h an ical  E n g in ee r in g   an d   I n f o r m atics    Un iv er s ity   o f   Misk o lc   3 5 1 5   Misk o lc,   E g y etem   s tr .   1 ,   Hu n g ar y   E m ail:  laszlo . csep an y i - f u r jes @ u n i - m is k o lc. h u       1.   I NT RO D UCT I O N   Ar tific ial  in tellig en ce   ( AI )   an d   m ac h in lear n in g   ( ML )   ar e   r ap id ly   tr an s f o r m i n g   m o d e r n   s o ciety ,   o f f er in g   a d v an ce d   a u to m atio n   ca p a b ilit ies,  d ec is io n   s u p p o r t,  an d   cr ea tiv e   co n ten g en e r atio n .   W h ile  t h ese  in n o v atio n s   b r in g   s ig n if ica n b en ef its ,   th ey   also   p o s cr itica ch allen g es  to   h u m an   d ev elo p m en [ 1 ] ,   [ 2 ] .   On e   p r ess in g   co n ce r n   is   th p o te n tial  d ec lin o f   h u m an   c o g n iti v en g ag em e n d u to   AI   s y s tem s   in cr ea s in g ly   tak in g   o v e r   co m p lex   task s   [ 3 ] .   As  AI   b ec o m es  m o r p r ev alen in   d ec is io n - m ak in g ,   h u m an s   m ay   b ec o m e   o v er ly   r elian o n   th ese  s y s tem s ,   r is k in g   lo s s   o f   ex p er tis an d   m en tal  au to n o m y .   R esear ch   em p h asizes  th im p o r tan ce   o f   m ea n in g f u w o r k   f o r   h u m a n   well - b ein g   [ 4 ] ,   h ig h lig h tin g   t h s atis f ac tio n   d er iv ed   f r o m   s k ill   u tili za tio n   an d   r ef in em en [ 5 ] .   At  th s am t im e,   th er is   an   u r g en s o cieta l   d em an d   f o r   life lo n g ,   u n iv er s ally   ac ce s s ib le  co n tin u o u s   lear n in g   o p p o r tu n ities   to   ad ap t   to   th i s   tech n o lo g ical  s h if t.   T h e   em er g en ce   o f   AI   lar g e   lan g u ag e   m o d els   ( L L Ms)   li k C h atGPT   [ 6 ] ,   ca p ab le  o f   co m p le x   task   ex ec u tio n   a n d   n atu r al  lan g u ag e   in ter ac tio n   [ 7 ] ,   u n d er s co r es th i s   n ee d .     Alth o u g h   ex p lain ab le  AI   ( XAI )   h as  em er g ed   to   ad d r ess   AI 's  tr an s p ar en cy   is s u es ,   p r o v id in g   ex p lan atio n s   alo n d o es  n o e n s u r u s er   lear n in g   [ 8 ] .   XAI   m eth o d s   clar if y   h o d ec is io n s   ar m ad [ 9 ]   b u t   Evaluation Warning : The document was created with Spire.PDF for Python.
I n d o n esian   J   E lec  E n g   &   C o m p   Sci     I SS N:   2502 - 4 7 5 2       Gen era liz ed   d o ma in   tu to r in g   fr a mewo r fo r   A I   a g en ts   w ith   in teg r a ted   …  ( s z   C s ép á n yi - F ü r jes )   861   o f ten   f all  s h o r o f   g u i d in g   u s er s   th r o u g h   th co n c ep tu al  u n d er s tan d in g   r e q u ir e d   to   in ter n alize   AI - g en er ated   in s ig h ts   [ 1 0 ] [ 1 2 ] .   I n   co n t r ast,  in tellig en tu t o r in g   s y s tem s   ( I T S)   ar e   d esig n ed   to   s u p p o r ac tiv e   lear n in g   th r o u g h   p er s o n aliza tio n   an d   f ee d b ac k   [ 1 3 ] .   Ho wev er ,   I T S   ar ty p ically   d o m ain - s p ec if ic,   s tan d alo n e   s y s tem s   an d   ar e   n o i n teg r ated   in to   ev er y d a y   AI   a p p licatio n s .   T h is   d is co n n ec tio n   lim its   th eir   ac ce s s ib ilit y   an d   u s ef u ln ess   d u r in g   r ea l - wo r ld   AI   in ter ac tio n s .   T h er is   lar g v o lu m o f   p u b lis h ed   s tu d ies  attem p tin g   to   ad d r ess   th is   is s u e.   XAI   tech n iq u es  -   s u ch   as  m o d el - s p ec if ic  v is u aliza tio n s   [ 1 4 ] ,   [ 1 5 ] ,   lo ca s u r r o g ate  m o d els  lik lo ca in ter p r eta b le  m o d el - ag n o s tic   ex p lan at io n s   ( L I ME )   [ 1 6 ] ,   a n d   co u n ter f ac tu al  ex p lan atio n s   -   h av im p r o v ed   th e   in ter p r e tab ilit y   o f   co m p lex   m o d els,  p ar ticu lar l y   in   r eg u lated   o r   s af ety - c r itical  f ield s   [ 1 7 ] .   R ec en wo r k   h as  ex p lo r ed   t h s y n er g y   b etwe en   XAI   an d   I T S,  em p h asizin g   t h n ee d   f o r   ex p lan atio n s   th at   s u p p o r in s tr u ctio n ,   n o ju s in ter p r etatio n   [ 1 8 ] .   in ter ac tiv m ac h i n lear n in g   ( I ML )   [ 19 ] [ 22 ]   an d   k n o wl ed g e - s h ar in g   tech n iq u es  in   m u lti - ag en s y s tem s   ( MA S)  [ 2 3 ]   h av e   also   co n tr i b u ted   f r am ewo r k s   f o r   f ee d b a ck   an d   co llab o r atio n ,   y et  th ei r   f o c u s   r em ain s   o n   im p r o v in g   m ac h in p er f o r m a n ce   r ath er   th an   en h a n cin g   h u m an   lear n in g .   E d u ca tio n al  AI   an d   o n to lo g y - d r iv en   I T s y s tem s   p r o v id e   ad ap ti v in s tr u ctio n   [ 2 4 ] [ 2 7 ] ,   b u t   th ey   ar e   o f ten   d ec o u p led   f r o m   th e   to o ls   an d   p latf o r m s   wh er u s er s   en co u n ter   AI - g en e r ated   d ec is io n s   in   p r ac tice.   Desp ite  ad v an ce m e n ts   in   I T S,  ac ce s s   to   h ig h - q u ality   ed u ca ti o n al  s u p p o r t   r em ain s   u n ev e n ,   esp ec ially   f o r   lear n er s   with   lim ited   r eso u r ce s .   R ec en wo r k   h as  ex p lo r ed   th u s o f   d ec en tr alize d   te ch n o lo g ies,  s u ch   as  th E th er eu m   b lo c k ch ain ,   to   d em o cr atize   tu to r in g   s er v ices  an d   r ed u ce   ed u ca tio n al  in eq u ality   b y   o f f e r in g   s ca lab le,   lo w - co s s o lu tio n s   [ 28 ].   W h ile  p r o m is in g ,   s u ch   ap p r o ac h es  f o cu s   p r im a r ily   o n   l o g is tical  an d   ec o n o m ic  ac ce s s ib ilit y   r ath er   t h an   o n   in teg r atin g   tu to r i n g   ca p ab ilit ies d ir ec tly   in to   th AI   a g en t s   th em s elv es.   T h is   r ev ea ls   s ig n if ican g a p cu r r en A I   s y s tem s   lack   in teg r ated   m ec h an is m s   to   p r o m o te  u s er   lear n in g   d u r i n g   r ea l - tim in te r ac tio n .   W h ile  e x p lan atio n s   h elp   b u ild   tr u s t,  t h ey   d o   n o t   te ac h .   Similar ly ,   I T s o lu tio n s   o f f e r   ef f ec tiv p e d a g o g y   b u t   ar n o e m b ed d ed   with in   ev er y d ay   AI   to o ls ,   leav in g   a   v o i d   wh er e   lear n in g   co u ld   -   an d   s h o u ld   -   o cc u r .   T o   ad d r ess   th is ,   we  p r o p o s a   n o v el  f r am ewo r k   t h at  em b ed s   an   im p licit  tu t o r in g   m ec h a n is m   d ir ec tly   in to   AI   s y s tem s   th r o u g h   th in tr o d u ctio n   o f   th k n o wl ed g e - s h ar in g - b r i d g e   ( KSB ) .   T h KSB   co n v er ts   co n v en tio n al  AI   ag en ts   in t o   h y b r id   en titi es  th at  ca n   s er v e   two   p u r p o s es:  ex ec u tin g   task s   an d   in s tr u ctin g   u s er s .   B y   co m b in in g   c o r XAI   f u n ctio n s   with   in ter ac tiv e,   p er s o n alize d   teac h in g   elem en ts ,   th KSB   en ab les  co n ti n u o u s ,   co n tex tu al  lear n in g   with o u t   r eq u i r in g   u s er s   to   le av th e n v ir o n m en t   wh er e   th AI   o p er ates.  Prio r   r esear ch   em p h asizes  th at  b o th   in tr in s ic  an d   ex tr in s ic  m o tiv atio n s   s ig n if ican tly   in f lu en ce   in d iv id u als'   in ten tio n   to   s h ar k n o wled g e,   p ar ticu la r ly   with i n   f o r m al  v ir t u al  co m m u n ities .   T h p r o p o s ed   KSB   co m p o n en s ee k s   to   lev er ag t h ese  m o tiv atio n al  i n s ig h ts   b y   d esig n in g   AI   s y s tem s   th at  n o o n ly   ex p lain   b u also   en co u r ag e   an d   f ac ilit ate  u s er   lear n in g ,   ac tin g   as a   m o tiv atio n al  p ar t n er   with i n   in ter ac tio n .   T h K SB   co m p r is es   f o u r   in ter lin k ed   co m p o n e n ts ex p lain   ( XAI   en g in e) ,   r ep o r t   ( o p er atio n al   an aly tics ) ,   co n tr o l   ( u s er   c o n f ig u r ab ilit y ) ,   an d   teac h   ( in s tr u ctio n al  g u id an ce ) .   T h is   in te g r atio n   allo ws  AI   s y s tem s   to   n o o n ly   ju s tify   th eir   ac tio n s   b u also   to   ac t   as  in f o r m al  tu t o r s ,   g r ad u all y   en h an cin g   u s e r   co m p eten ce .   B y   u tili zin g   s tr u ctu r ed   k n o wled g r ep r esen tatio n s -   s u ch   as  ca teg o r y   m ap s   an d   wo r d - clo u d s   -   o u r   f r am ewo r k   m ak es c o m p lex   d e cisi o n   lo g ic  in tu itiv ely   ac ce s s ib le  an d   p ed ag o g ically   v alu a b l e.   T h is   p ap er   p r esen ts   t h h ig h - lev el  d esig n   an d   p r o to ty p im p lem en tatio n   o f   th KS B - en ab led   T ea ch in g   AI   f r am ewo r k .   T h e   p r o p o s ed   s o lu tio n   f ills   cr itical  v o id   in   cu r r en AI   ap p li ca tio n s ,   o f f er in g   a   n o v el  p ath way   to   b len d   au to m atio n   with   em b ed d e d   lear n i n g   -   en s u r in g   th at  AI   s y s tem s   n o o n ly   i n f o r m   b u t   ed u ca te  th eir   u s er s   in   r ea l tim e .   T h ar ticle  is   o r g an ized   as  f o llo ws:   s ec t io n   2   d etails  th t h e o r etica m o d elin g   ( T M)   an d   h ig h - lev el - d esig n   ( HL D)   p r o ce s s   u s ed   to   d ev elo p   th e   KSB   f r am e wo r k ,   o u tlin in g   th e   d esig n   p r in cip les  an d   s u b - c o m p o n en f u n ctio n alities .   S ec tio n   3   p r esen ts   th th eo r etica v alid atio n   o f   th f r am e wo r k   as  well  as   th p r o p o s ed   alg o r ith m s   f o r   p r o t o ty p im p lem en tatio n ,   d is cu s s i n g   its   ad v an tag es  an d   ch allen g es.  Fin ally ,   Sectio n   4   co n clu d es th p ap e r ,   s u m m a r izin g   th co n tr ib u tio n s   an d   o u tlin in g   p o ten tial f u tu r r esear ch   d ir ec tio n s .       2.   M E T H O D   T h is   s ec tio n   ex p lo r es  th f r a m ewo r k   d ev el o p m en p r o ce s s   b y   lis tin g   th g u id in g   p r in cip les  th at   d eter m in ed   th a r ch itectu r e.   I d ef in es  an d   e x am in es  th co m p o n en ts   an d   th eir   i n ter ac tio n s   o f   th KSB   f r am ewo r k .   Ad d itio n ally ,   it o u tlin es th v alid atio n   an d   an aly s is   s tep s   o f   th th eo r etica l f r a m ewo r k   m o d el.       2 . 1 .     F r a m ewo r k   d ev elo p m e nt  t hro ug t heo re t ica l mo delin g   T h KSB   f r am ewo r k   was  d e v elo p ed   u s in g   T ap p r o ac h   g r o u n d ed   i n   p r i n cip les  f r o m   k n o wled g s p ac th eo r y   ( KST)   [ 29 ] ,   o n to lo g y - b ased   ed u ca tio n al  m o d elin g   [ 30 ] ,   a n d   th e v o lv in g   k n o wled g s p ac e   g r ap h   ( E KSG)   [ 31 ] .   KST  p r o v id ed   th f o u n d atio n   f o r   r ep r esen tin g   k n o wled g as  a   s tr u ctu r ed   s et  o f   p r er e q u is ite - d ep en d e n u n its ,   wh ile  th o n to lo g y - b ased   m o d el  en ab led   th s em an tic  ca teg o r izatio n   o f   lear n in g   Evaluation Warning : The document was created with Spire.PDF for Python.
                      I SS N :   2 5 0 2 - 4 7 5 2   I n d o n esian   J   E lec  E n g   &   C o m p   Sci Vo l.  40 ,   No .   2 ,   No v em b er   20 25 :   8 6 0 - 87 0   862   co n ten t,  lear n er   p r o f iles ,   an d   s tr ateg ies.  B y   in tr o d u ci n g   t h co n ce p o f   a b s tr ac t - tim in to   t h is   m er g ed   m o d el,   th E KSG  was   d ev elo p ed   to   ac co u n f o r   th e   d y n a m ics  o f   f ast - ch an g in g   k n o wled g in   to d ay s   tech n o lo g ical   lan d s ca p e.   T h is   th eo r etica in teg r atio n   f o r m ed   th b asis   f o r   id en tify in g   k ey   g ap   in   cu r r en AI   ap p lic atio n s th e   lack   o f   u n i v er s al,   im p licit,  an d   co n tin u o u s   lear n in g   o p p o r t u n ities   em b ed d ed   wit h in   th s y s tem s   th em s elv es.   T h u s ,   th KSB   f r am ewo r k   was  d esig n ed   n o as  an   ex ter n al  ed u ca tio n al  to o l,  b u as  an   in t er n al  co m p o n en o f   an y   AI   s y s tem   in ter ac tin g   d i r ec tly   with   u s er s ,   m ak i n g   lear n in g   r esu lt  o f   u s ag e   r ath er   th an   a   s ep ar ate,   ex p licit p r o ce s s .     2 . 2 .     H i g h - lev el - des ig princi ples   g uid i ng   t he  K SB   f ra m ewo rk   XAI ,   wh ile  im p r o v in g   tr an s p ar en cy ,   f o cu s es  o n   ex p lan atio n   r ath er   th a n   ac tiv teac h in g .   T h is   g ap   n ec ess itated   f r am ewo r k   th at  s ea m less ly   em b ed s   teac h in g   f u n ctio n ality   in to   AI   s y s tem s .   T h d ev el o p m en t o f   th KSB   f r am ewo r k   was g u id ed   b y   t h f o llo win g   co r e   d esig n   p r in cip les:     I n tellig en ce   Au g m en tatio n   ( I A)   o v er   AI T h e   f r am ewo r k   p r io r itizes  en h an ci n g   h u m an   in tellig en ce   an d   au to n o m y ,   r ath e r   th an   r ep lacin g   it.     I m p licit  lear n in g   o v e r   ex p licit   tr ain in g L ea r n in g   s h o u ld   o c cu r   in   th f lo o f   u s in g   tech n o lo g y ,   r e d u cin g   b ar r ier s   lik co s t,  tim e,   an d   m o tiv atio n .     Un iv er s ality   an d   ac ce s s ib ilit y T h KSB   is   d esig n ed   to   b in teg r ated   in to   a n y   AI   s y s tem   r eg ar d less   o f   d o m ain ,   t h u s   en ab lin g   life lo n g   lear n in g   f o r   all  u s er s .     T r an s p ar en c y   an d   T r u s t:  B y   ex p lain in g   an d   r ep o r tin g   d ec is io n s ,   th AI   ca n   f o s ter   m o r tr u s ted   r elatio n s h ip   with   u s er s .   T h ese  p r in cip les  s ee k   to   tr an s f o r m   AI   f r o m   m ar g in alizi n g   f o r ce   to   an   em p o wer in g   to o l.   T h n ec ess ity   f o r   KSB   ar o s e   f r o m   m u ltip le  th e o r etica a n d   p r ac t ical  o b s er v atio n s .   Desp ite  r ap i d   ad v an ce m en ts   i n   AI ,   m o s s y s tem s   lack   th a b ilit y   to   teac h   u s er s   h o th ey   f u n ctio n ,   lea d in g   t o   d e p e n d en ce   r ath er   t h an   em p o wer m en t.  E x is tin g   I T f o cu s   n ar r o wly   o n   ac ad e m ic  d o m ain s   an d   ar n o em b e d d ed   with in   g en er al - p u r p o s AI   s y s tem s .   Fu r th e r m o r e,   em e r g in g   ch allen g es  r elat ed   to   AI   o v er - a u to m atio n   an d   lo s s   o f   m ea n i n g f u h u m an   wo r k   h ig h lig h ted   th u r g en n ee d   f o r   AI   s y s tem s   to   p lay   m o r s u p p o r tiv an d   ed u ca tio n a r o le  in   h u m an   s o ciety .   C o n s eq u e n tly ,   th KSB   wa s   co n ce p tu alize d   as  an   in ter n al  AI   m o d u le  d esig n ed   to   tr an s f er   k n o wled g f r o m   th AI   to   th u s er   th r o u g h   in t u itiv an d   c o n t ex t - s en s itiv in ter ac tio n s .     2 . 3 .     Ra t io na le  behin d K SB   s ub co m po nents   T h KSB   f r am ew o r k ,   d e p icted   in   Fig u r 1 ,   was  d esig n ed   u s in g   HL p r o ce s s ,   d ef in in g   th o v er all   ar ch itectu r an d   s u b co m p o n e n in ter ac tio n s .   T h in clu s io n   o f   th f o u r   s u b - c o m p o n en ts   -   ex p lain ,   r ep o r t,   co n tr o l,  an d   teac h     as  well  as  th r em ain in g   s u b - co m p o n en ts   was  g u id e d   b y   th n ee d   o f   f ac ilit atin g   u s er   lear n in g :     E x p lain I n teg r ates  XAI   tech n iq u es  to   m a k th e   AI s   d ec is io n s   in ter p r etab le.   T h is   s u p p o r ts   co g n itiv u n d er s tan d i n g   an d   en h an ce s   u s er   tr u s t.  I t   is   n o en o u g h   t o   p r o v id e   lo lev el   ex p lan atio n ;   it  is   ad v is ab le   to   t r an s late  th ex p lain in g   r esu lt   in to   h u m a n   u n d er s tan d a b le  f o r m at.   Fo r   in s tan ce ,   in   a   leg al  en v ir o n m en t   ex p lain ab ilit y   m ea n s   leg al  e x p lan atio n .       R ep o r t:   Of f er s   s tatis tical  an d   p er f o r m an ce   f ee d b ac k   to   u s er s ,   h elp in g   th e m   tr ac k   s y s te m   b eh av io r   an d   id en tify   i m p r o v em en a r ea s   in   th eir   o wn   in te r ac tio n   o r   d ec is io n - m ak in g .   T o   p r ep a r th o u g h tf u d ec is io n s   in   ter m s   o f   A I   co n tr o it  is   cr u cial  to   m o n ito r   t h wo r k i n g   o f   th s y s tem   as  well  as  to   f o llo t h co m m u n icatio n   b etwe en   th u s er   an d   th AI   ag en t.  E v er y   u s er   m u s b ab le  to   an aly ze   h er   o wn   in ter ac tio n   with   t h s y s tem ,   th is   is   wh y   th R ep o r s u b s y s te m   m u s b e   p ar t   o f   th KSB .   T h er ar e   alr ea d y   k n o wn   m etr ics  to   e v alu ate  AI   ag en ts   ( e. g . ,   s u cc ess   r ate,   ac cu r ac y ,   etc. )   a n d   ac c o r d i n g   t o   th in c r ea s in g   d em an d   o f   co n tr o l   it is   s u r th at  m o r ar t o   co m e.       C o n tr o l:   E m p o wer s   u s er s   with   co n f ig u r ab le  o p tio n s   th at  p r o m o te  au to n o m y   a n d   s elf - r eg u latio n ,   alig n in g   with   p r in cip les  f r o m   s elf - d i r e cted   lear n in g .   T o   im p lem en c o n tr o llab ilit y ,   AI   d e v elo p e r s   m u s p u s et  o f   r u les  in to   f o r ce   in   th C o n tr o s u b s y s tem   s o   th at   th e x ter n al  u s er s   ca n   in ter v e n i n   th e   wo r k in g   o f   t h s y s tem   in   p r ed eter m in e d   w ay .   T o   av o id   d e m o n izatio n   o f   AI   tech n o l o g y   th e r m u s b m u ch   lar g er   co n tr o p o s s ib ilit y   p r o v id ed   t o   th u s er s   th an   to d ay ,   h o we v er   it  m ea n s   g r ea ch allen g to   th s y s tem s   s ec u r ity .   T h er ef o r e,   to   av o id   m alicio u s   in ter ac tio n s ,   ca r ef u im p lem en tatio n   o f   th C o n tr o s u b s y s tem   r eg ar d in g   s ec u r ity   is s u es is   cr u cial.     T ea ch :   Pro v id es  p er s o n alize d ,   co n tex t - s en s itiv in s tr u cti o n al  co n ten t,  e n ab li n g   u s er s   to   d ev elo p   p r o ce d u r al  k n o wled g o n   h o to   r e p licate  o r   m o d if y   t h AI - d r iv en   task .   I n   a   h ea lth y   s y n er g y ,   AI   lear n s   f r o m   h u m a n s   an d   h u m a n s   lear n   f r o m   AI .   T ea ch   is   th s u b s y s tem   th at  f ac ilit ates  h u m an   lear n in g   b y   p r o v id i n g   p r em ed itated   f ee d b ac k   in   a   teac h in g   m an n e r .   As  o p p o s ed   to   th e   ex p lain   s u b s y s tem ,   wh er th e   aim   is   to   u n d er s tan d   th AI s   r esp o n s e,   th T ea ch   s u b s y s te m   p r o v i d es  in f o r m atio n   h o t o   lear n   th s k ills   Evaluation Warning : The document was created with Spire.PDF for Python.
I n d o n esian   J   E lec  E n g   &   C o m p   Sci     I SS N:   2502 - 4 7 5 2       Gen era liz ed   d o ma in   tu to r in g   fr a mewo r fo r   A I   a g en ts   w ith   in teg r a ted   …  ( s z   C s ép á n yi - F ü r jes )   863   o f   th AI   ag en t.  Fo r   e x am p le,   if   leg al  d o cu m en is   b ein g   r ejec ted   b y   th AI - class if ier   ag en th ex p lain   s u b s y s tem   ca n   p o in t   o n   to   th k ey   f ac to r s   wh y   th e   d o c u m en was  r ejec ted ,   wh ile  th e   T ea ch   s u b s y s tem   g iv es in f o r m atio n   h o th d o c u m en t n ee d s   to   b co n s tr u cted   to   g et  it a cc ep ted .       I n ter n al  g atew ay :   Hav i n g   an   i n ter n al  g atew ay   m a k es  it  p o s s ib le  to   s ca le  th in ter n al  co m p o n e n ts   o f   t h e   KSB   s o   th at  ca n   b ex ten d ed   an d   cu s to m ized .   E ith er   b y   ad d in g   m o r co m p o n e n ts   o r   m o r e   in s tan ce s   f r o m   ex is tin g   co m p o n en ts   th in ter n al  g atew ay   ca n   e n ca p s u late  th co m m u n icatio n   an d   ca n   r ea lize  in ter n al  s ec u r ity   f ea tu r es  th at   p r o tect  th s u b co m p o n e n ts   f r o m   m ali cio u s   im p ac ts .   B y   p r o v id i n g   p r iv ate  API   th e   s y s tem   ca n   b in teg r ated   s ea m less ly   in to   v ar io u s   AI   s y s tem s .       User   in ter f ac an d   th e   in teg r a tio n   lay er :   User s   ar e   co m m u n icatin g   th AI   ag en t   u s in g   t h e   u s er   in ter f ac ( UI ) .   I n   t h p r o p o s ed   f r am ew o r k   th UI   m u s b ex ten d ed   f o r   th u s er   to   b ab le  to   in te r a ct  with   th KS B   an d   to   ac ce s s   lear n in g   m ater ials ,   g et  ex p lan atio n ,   r ea lize  co n tr o o r   to   q u er y   s tatis tical  in f o r m atio n .   T h ese   f u n ctio n alities   ca n   b im p lem en ted   s ep ar ately   f r o m   th c o r AI   f u n ctio n ality   m a k in g   it  p o s s ib le  to   ap p ly   ad v an ce d   lear n in g   ca p a b ilit ies.  T h in teg r atio n   lay er   p r o v id es  p u b lic  API   to   im p lem en th co r e   f u n ctio n ality   as  well  as  t o   a cc ess   th KSB   f u n ctio n alitie s   b eh in d   th e   g atew ay .   I t   en s u r es  s ea m less   in teg r atio n   with   v a r io u s   AI   s y s tem s   an d   p latf o r m s ,   ad h er in g   to   in d u s tr y   s tan d ar d s .     C o r AI   f u n ctio n ality :   T h e   p r o p o s ed   m o d el  is   d escr ib in g   s im p lifie d   AI   ag en t h at  co n s i s ts   o f   th tr ain ed   AI   m o d el  as  well  as  p r o ce s s o r   lay er   th at  im p lem en ts   th b u s in ess   lo g ic  o f   th s y s te m .   Usu ally   th in p u t/o u tp u is   r ea lized   b y   th s en s o r   an d   ef f ec to r   s u b co m p o n en ts .   Fu r th e r m o r e,   it   is   im p o r tan to   m en tio n   th at  th s y s tem   alwa y s   n ee d   a   d atab ase  wh er e   th e   co r e   f u n c tio n ality   r elate d   d ata,   u s er   r ela ted   in f o r m atio n   o r   s y s tem   s ettin g s   ar s to r ed .   I n   th p r o p o s ed   m o d el  t h KSB   r elate d   d ata  is   also   lo ca ted   in   th is   d atab ase.   T o g eth er ,   th ese  m o d u les  tr an s f o r m   th AI   f r o m   s tatic  d ec is io n - m ak er   in to   d y n am ic,   ed u ca tiv e   ag en th at  ca n   p r o v id s u p p o r t   to   u s er s   in   r ea l - tim e,   en a b lin g   s k ill  d ev elo p m en a n d   k n o wl ed g en h a n ce m en t.   T h in clu s io n   o f   th KSB   in to   g en e r al  AI   s y s tem s   in tr o d u c es  n ew  m o d el  o f   im p licit,  c o n tin u o u s   lear n in g Un lik f o r m al  ed u ca tio n al  s y s tem s   o r   tr ad itio n al  e - lear n in g   p latf o r m s ,   th KSB   s u p p o r ts   ju s t - in - tim e   k n o wled g d eliv er y ,   a d d r ess in g   th k n o w led g n ee d s   o f   u s er s   as  th ey   ar is d u r in g   r ea l - wo r ld   task s .   T h is   alig n s   clo s ely   with   th g o als  o f   life lo n g   lear n in g   an d   ad ap tiv lear n in g   en v ir o n m en ts   b u b r o ad en s   th eir   r ea c h   to   in clu d all  AI - d r iv en   in ter a ctio n s ,   n o t ju s t e d u ca tio n al  ap p licatio n s .           Fig u r 1 .   KSB   f r am ewo r k       2 . 4 .     T heo re t ica v a lid a t io n   T h f r am ewo r k   was  s u b jecte d   to   T h eo r etica Valid atio n   ( T V) .   T h e   TV   o f   th KSB   f r am ewo r k   in v o lv ed   a   co m p r eh en s iv a n aly s is   o f   its   ad v an tag es  an d   p o ten tial  ch allen g es.  Key   ad v an tag es  in clu d u n iv er s al  ap p licatio n ,   u s er   em p o wer m en t,  an d   en h an ce d   tr u s an d   tr an s p ar en cy .   Ho wev er ,   ch allen g es  s u ch   as   th co m p lex ity   o f   XAI   in teg r atio n   an d   th n ee d   f o r   h ig h - q u ality   au t o m ated   tu t o r in g   s o lu tio n s   wer also   id en tifie d .   T h r esear ch   ac k n o wled g es  lim itatio n s ,   in clu d in g   th h ig h - lev el   d escr ip tio n   o f   th f r am ew o r k   an d   th u s o f   s m all  u n i v er s ity   s tu d en t g r o u p   f o r   p r elim in ar y   ev a lu atio n .       Evaluation Warning : The document was created with Spire.PDF for Python.
                      I SS N :   2 5 0 2 - 4 7 5 2   I n d o n esian   J   E lec  E n g   &   C o m p   Sci Vo l.  40 ,   No .   2 ,   No v em b er   20 25 :   8 6 0 - 87 0   864   3.   RE SU L T S AN D I SCU SS I O N   I n   th is   s ec tio n ,   we  e x p lo r t h p r ac tical  r ea lizatio n   o f   th KSB   f r am ewo r k   t h r o u g h   a   p r o to t y p e   im p lem en tatio n ,   s h o wca s in g   h o th e x p lain ,   r ep o r t,  c o n tr o l,  an d   teac h   c o m p o n en ts   o p e r ate  in   an   in teg r ate d   AI   en v ir o n m en t.   Als o ,   t h is   s ec tio n   h ig h lig h t s   h o th KSB   co m p o n en ts   co n tr i b u te  to   t h e   o v er ar c h in g   g o als  o f   u s er   em p o wer m en t   an d   i n tellig en ce   au g m e n tatio n .     3 . 1 .     Wo r k f lo w   T h aim   o f   th a n s wer   v alid at o r   ( AV)   is   to   a u to m atica lly   e v alu ate  a   tex tu al  a n s wer   co m i n g   f r o m   a   cu s to m er   s er v ice  em p lo y ee AV   is   s im p le,   lan g u ag e - m o d e l - b ased   AI   s y s tem   th at  ac ts   a s   v ir tu al  cu s to m er   s er v ice  tr ain er .   T h e   p r o to ty p KSB   wa s   im p lem en ted   as p ar t   o f   th AV  m o d u le.   T h wo r k f lo w   o f   th s y s tem   i s   as  f o llo ws:   th p r o to t y p e   UI   s h o ws  q u esti o n   t o   th e   em p l o y e e,   t h en   th em p lo y ee   s u b m its   tex t u al  an s wer   u s in g   th UI   to   th AV  m o d u le  th r o u g h   th e   p u b lic  API   th at  is   im p lem en ted   as  a   R E ST  s er v ice.   T h R E ST  r esp o n s r ec e iv ed   co n tain s   th e v alu atio n   r esu lt  as  well  as  a   u n iv er s al  u n iq u id en tifie r   ( U UI D)   to   id en tify   th co m m u n i ca tio n   f lo w.   T h UI   th en   ex t r ac ts   th UUI an d   r eq u ests   an   ex p lan atio n   as  well  as  teac h in g   in f o r m atio n   f r o m   th e   KSB   th r o u g h   t h p u b lic   API .   T h e   in teg r atio n   lay e r   f o r war d s   th e   r eq u est  u s in g   th p r iv ate  API   to   th KSB   g atew ay .   T h g atew ay   r o u tes  t h e   r eq u est  to   th e x p lain   a n d   T e ac h   s u b co m p o n e n ts .   B o th   co m p o n e n ts   ar f etch in g   th n e ce s s ar y   in f o r m atio n   f r o m   th DB   b y   th UUI a n d   u s in g   th ca p a b ilit y   o f   th AI   lan g u ag m o d el  to   g en er at r esp o n s e.   T h UI   d is p lay s   b o th   in f o r m atio n   to   th u s er   an d   ex p ec ts   co r r e cted   an s wer .   T h p r o ce s s   g o es  u n til  th an s wer   r ea ch es th ac ce p tan ce   c r iter ia  lev el  o f   th AV  m o d u le.     3 . 2 .     XAI e ng ine o f   t he  ex pla in a nd   t ea ch  m o du les   T h p r o p o s ed   d o m ain   tu to r i n g   s y s tem   is   d i f f er en t   f r o m   th g en er al   tu to r in g   s y s tem s   in   m an y   asp ec ts .   T h m ain   d if f e r en ce s   in clu d th f o llo win g   elem e n t s :     lo ca l sco p p r o b lem   d o m ain     s m all  k n o wled g to p ic  f o c u s in g   o n   s p ec i f ic  p r o b lem     f lex ib le  co n ten t     o p en   in ter f ac e   T h f u n d am en tal  elem en ts   o f   th f r am ewo r k   co m p r is th ex p lain   a n d   teac h   m o d u l es,  wh ich   g en er ate  clea r   ex p la n atio n   o f   th p r ed ictio n   p r o ce s s   ca r r ie d   o u b y   th n eu r al  n etwo r k   a n d   s u p p ly   g u id an ce   to   th u s er   o n   h o to   en ter   a n   in p u th at  th n e u r al  n etwo r k   ( NN)   r ec o g n izes  as  co r r ec r esp o n s e.   T h XAI   en g in o f   t h ex p lain   m o d u le  will  an aly ze   th NN  ar ch itectu r an d   g e n er ate  an   in ter p r etab l r ep r esen tatio n   o f   th NN’ s   k n o wled g m o d el.   C o n s id er in g   th u s u al  k n o wle d g r ep r esen tatio n   f o r m ats  u s ed   in   ex p er s y s tem s ,   we  ca n   h ig h lig h t th f o llo win g   two   to o ls :     C ateg o r y   m ap : it  s h o ws a  v is u al  r ep r esen tatio n   o f   th r elatio n s h ip   b etwe en   th f ea tu r s ets an d   ca teg o r ies.     W o r d - clo u d : it  s h o ws th k ey   co n ce p ts   r elate d   to   d ec is io n   p r o ce s s .     3 . 3 .   P r o po s ed  a lg o rit hm   o f   ca t eg o r y   M a p g ener a t io n   f o r   f un ct io na l a pp ro x im a t io n   T h ca teg o r y   m ap   is   ea s y   to   u n d er s tan d   f o r   h u m an s ,   t h is   k in d   o f   r e p r esen tatio n   f o r m at   is   u s ed   in   s elf   o r g an izatio n   m a p   [ 32 ]   o r   in   c r o s s   r ef er en ce   tab les [ 33 ] .   I n   o u r   in v esti g atio n ,   we  f o cu s   o n   t h g en er atio n   o f   th ca teg o r y   m a p .   T h d o m ain   o f   th m ap   is   s u b s et  o f   th f ea t u r s p ac e,   u s u ally   it  is   s u b - c u b e.   E ac h   p o in in   th cu b r ep r esen ts   f ea tu r v ec to r   wh ich   co r r esp o n d s   to   a n   o b ject  in   th p r o b lem   d o m a in .   T h m a p   s h o ws   th co r r esp o n d in g   ca teg o r y   v a lu es  o r   r eg r ess io n   v alu r elate d   to   th g iv en   p o s itio n .   T h r e s u ltin g   m ap   is   v er y   u s ef u in f o r m atio n   f o r   th u s er s   to   lear n   wh ich   p ar ts   o f   th o b jects  s p ac b elo n g   to   wh ich   ca teg o r ies.   R eg ar d in g   th g en er atio n   o f   th ca teg o r y   m ap ,   we  p r o p o s ed   an d   co m p ar ed   two   ap p r o ac h es :     F ee d   f o r war d   g en er ati o n   ( m o d el  ag n o s tic  ap p r o ac h )     B ac k war d s   p r o p ag ati o n   ( m o d e l sp ec if ic)   W ass u m th at  th o b ject  s p ac ( f ea tu r s p ac e)     is     d im en s i o n al  v ec to r   s p ac e:      an d     is   th s et  o f   ca teg o r ies o r   r eg r ess io n   v alu es.   T h in v esti g ated   n eu r al  n etwo r k   m o d el  is   d en o ted   b y   Λ .     I n   th f ee d   f o r war d   m eth o d ,   we  g e n er ate  r an d o m   p o i n ts   in     an d   ca lcu lat Λ ( ) ,    v alu es.  T h r esu ltin g   m ap   s h o ws  th d is tr ib u tio n   o f   th e   d if f e r en ca teg o r ies  o r   r e g r ess io n   v al u es.     As  in   th e   h o m o g e n eo u s   a r ea s   we  n ee d   lo wer   g r an u lar ity   th a n   in   th b o r d e r   r eg io n s ,   it  s ee m s   u s ef u to   h a v d en s s am p lin g   in   b o r d er   r eg io n s   an d   r ar e   s am p lin g   in   th h o m o g en eo u s   zo n e.   T o   m an ag e   th in h o m o g en eit y ,   th o b ject  d o m ain   cu b is   p ar titi o n ed   in to   g r id .   Fo r   ea ch   ce ll,  we  in tr o d u ce   a   h o m o g en eity   f ac to r ,   as th en tr o p y   v alu b ased   o n   th ca teg o r y   d is tr ib u tio n   o f   t h cu r r e n t c ell:     =  ( ) =   l og   ( 1 )     Evaluation Warning : The document was created with Spire.PDF for Python.
I n d o n esian   J   E lec  E n g   &   C o m p   Sci     I SS N:   2502 - 4 7 5 2       Gen era liz ed   d o ma in   tu to r in g   fr a mewo r fo r   A I   a g en ts   w ith   in teg r a ted   …  ( s z   C s ép á n yi - F ü r jes )   865   th u s ,   in   t h g e n er atio n   o f   t h s am p lin g   p r o ce s s ,   th p r o b ab ilit y   to   s elec ce ll  is   p r o p o r tio n a l   to   th e   co r r esp o n d in g     v alu e.   I n   th ca s o f   b ac k war d s   p r o p ag atio n ,   we  ap p r o x im ate  th i n v er s f u n ctio n   o f   th n etwo r k .   Usu ally ,   th n etwo r k   r ep r esen ts   n o t   in v er tib le  f u n ctio n ,   th u s   we   p r o p o s p r o b ab ilis tic  ap p r o x im atio n   m eth o d .   Fo r   a   g iv en   o u tp u ,   th p r o p o s ed   m eth o d   s elec ts   o n in p u t p o in t       in   th f ea tu r s p ac e   r an d o m ly   f r o m   th s et   o f   p o i n ts   r elate d   to   ,   i.e .   {   | Λ ( ) = } .   W ass u m n o ML NN   ar ch it ec tu r e.   T h ca lcu latio n   s tep s   ar b ased   o n   th f o llo win g   co n s id er atio n s .   Hav in g   .   s elec ted   r an d o m ly ,   let  u s   tak th o u tp u lay er   with   n eu r o n s   { } .   T h o u tp u o f       is   .   First,  we  d eter m in ,   wh er = ( ) ,   wh er ( )   is   th ac tiv atio n   f u n ct io n   o f   th e   n eu r o n .   Usu ally ,   t h e   ac tiv atio n   f u n ctio n   is   in v er tab le.   I f   n o t th en   we  s elec o n v al u r a n d o m ly   f r o m   th d o m ain   y ield in g   .   T h u s ,   we   h av e   { }   f o r   all   n o d e s   o f   th e   lay er .   Nex t,  we  ca lcu late   { }   v alu es,  wh er =    +     an d    ,   ar t h weig h an d   b ias  v alu es.  As  it  is   a   lin ea r   m ap p in g ,   th e   s o lu tio n   s et  { }   is   a   h y p er p la n e.   T h   v al u e s   d en o te   th o u tp u o f   t h p r ev io u s   lay er .   As  th s o lu tio n   m u s m ee all  eq u atio n s   b elo n g in g   to   th n o d es  o f   th cu r r e n lay er ,   we  g et  s y s tem   o f   eq u atio n s   to   b s o lv ed .     1 =   1 +   1       2 =   2 +   2       =    +     ( 2 )     I n   ( 2 )   d en o tes  th n eu r o n s   in   th cu r r en lay er ,   wh ile  s y m b o   is   th s ize  o f   th p r ec ed in g   lay er   in   th e   NN  ar ch itectu r e .   I n   t h g en er al  ca s e,   th s o l u tio n   is   s in g le  u n iq u p o in t   o r   lin ea r   s u b s p ac o r   it  ca n   b em p ty .   I f   n o   s o lu tio n   ex is t s ,   we  will  ter m in ate  th is   p r o c ess .   Oth er wis e,   we  tak o n ly   o n p o in f r o m   th is   p lan as  s o lu tio n .   T h ca lcu l ated   { }   v ec to r   ca n   b co n s id er e d   as  th o u tp u o f   t h p r ev i o u s   lay er th u s ,   we  ca n   r ep ea th s am alg o r ith m   as  p r esen ted   b ef o r to   g et  th e   in p u o f   th p r e v io u s   lay er .   O n   th is   way ,   we  g et  an   in p u v ec t o r     ,   wh er =   Λ ( ) .   I n   t h is   way ,   f o r   an y   s elec ted   ca teg o r y   we  g et  a n   ap p r o x im atio n   o f   th e   ca teg o r y   d is tr ib u tio n .   T h im p lem en tatio n   o f   th b ac k war d s   p r o p ag atio n   m et h o d   f o r   s tate  s p ac d is co v er y   is   b ased   o n   th e   Py th o n   m eth o d   i n   Fig u r 2 .           Fig u r 2 .   State  s p ac d is co v e r y       Acc o r d in g   to   t h test   ex p er i m en ts   wi th   th b ac k war d   ap p r o ac h ,   t h is   m eth o d   is   s u itab le  o n ly   f o r   s im p le  n etwo r k   s tr u ctu r es a s   t h m eth o d   s u f f er s   f r o m   m a n y   is s u es.  T h m ain   is s u es a r th f o llo win g :   -   C o m p lex ity   o f   s o lv in g   th s u m m atio n   in v er s io n .   Her e ,   th er ar two   k ey   d if f icu lties .   First,  th eq u atio n   s y s tem   in   g en er al,   ca n   b s o lv ed   o n ly   with   co n d itio n al  o p t im izatio n   m eth o d ,   as  th ac tiv atio n   f u n ctio n   o f   th p r ec ed i n g   lay e r   g e n er at es  p o in ts   in   s p ec if ic   s u b f ield   o f   th e   n u m er ical  s p ac e.   Fo r   e x am p le,   in   th e   ca s es  o f   R E L f u n ctio n ,   o n l y   n o n - ne g ativ v alu es  ar e   g e n er ated .   T h e   s ec o n d   p r o b lem   is   t h at  th m eth o d   u s u ally   y ield s   o n ly   wea k   ap p r o x im atio n ,   th u s   ea c h   lay er   i n cr ea s es th p r ed ictio n   er r o r .   -   T h h ig h   co m p u tatio n al  co s ts .   T h ap p lied   m eth o d s   ar e   u s u ally   b ased   o n   s o m iter atio n s   o r   ev o l u tio n ar y   ap p r o ac h es; th u s ,   th co s t o f   b ac k war d   iter atio n   is   m u c h   h ig h er   th an   t h co s t o f   f o r war d   p r ed ictio n .   Evaluation Warning : The document was created with Spire.PDF for Python.
                      I SS N :   2 5 0 2 - 4 7 5 2   I n d o n esian   J   E lec  E n g   &   C o m p   Sci Vo l.  40 ,   No .   2 ,   No v em b er   20 25 :   8 6 0 - 87 0   866   I n   th ca s o f   f o r war d   p r o p ag atio n   s p ac d is co v er y ,   we  u s r eg r ess io n   p r o b lem   to   d em o n s tr ate  th b en ef its   o f   th e   p r o p o s ed   p o s itio n   weig h tin g   ap p r o ac h .   T h e   r ea f u n ctio n   to   b ap p r o x i m ated   is   s h o wn   in   Fig u r 3 .   T h g en er ate d   ap p r o x im atio n   p o in ts   ar p r esen te d   in   Fig u r 4 ,   wh er Fig u r 4 ( a)   p r esen ts   r an d o m   p o s itio n   s elec tio n   an d   Fig u r e   4 ( b )   s h o ws  p o s itio n   s elec tio n   u s in g   th p r o p o s ed   m etr ics.  A s   th r esu lts   s h o w,   th co n tr o lle d   g en e r atio n   h ig h lig h ts   th k ey   s ec tio n s   in   t h f ig u r in   s ig n i f ican tly   b etter   way   th an   th e   r an d o m   ap p r o ac h .           Fig u r 3 .   T h r ea l f u n ctio n   y   f ( x )   t o   b a p p r o x im ated   ( x   =   in p u t v a r iab le;  y   tar g et  v ar i ab le)           ( a)   ( b )     Fig u r 4 .   Gen e r ated   ap p r o x im atio n   p o in ts   ( a)   r an d o m   p o s itio n   s elec tio n   ( b )   p r o p o s ed   p o s itio n   s elec tio n       3 . 4 .   P r o po s ed  a lg o rit hm   of   wo rd - clo ud   g ener a t io n o f   t h pro t o t y pe  A V   m o du le   T o   u n d er s tan d   th alg o r ith m   o f   th p r o to ty p A V   m o d u l e’ s   ev alu atio n ,   let  u s   o b s er v th A V   p r o ce s s   its elf   f ir s t.  I n   th o p en   tex A V   d o m ain ,   th er e   ar tw o   m ain   u s ca s es.  I n   ca s A,   e x ac wo r d s   n ee d   to   b u s ed   to   a n s wer ,   wh ile  in   c ase  B   th m ea n in g   o f   th a n s wer   is   im p o r tan t,  b u th e   wo r d s   th em s elv es  ca n   d if f er .   I n   o t h er   wo r d s ,   in   ca s th an s wer   ca n   b v er if ied   b y   co m p ar i n g   th wo r d s   o n b y   o n wh ile  in   ca s e   B   th s em an tics   o f   th an s wer   n ee d s   to   b m atch ed .   Use  ca s B   i s   m o r co m m o n   in   r ea li f e.   Fo r   ex am p le,   ca s q u esti o n   m ay   lo o k   lik e   th is “Wh at  d o   th in itials   HAL   f o r   th HAL   9 0 0 0   co m p u t er   m ea n   in   t h f ilm   2 0 0 1 Sp ac Od y s s ey ?”   T h r ig h an s wer   lo o k s   lik th is “He u r is tica lly   p r o g r a m m ed   alg o r ith m ic   co m p u ter ”.   ca s B   q u esti o n   m ay   lo o k   lik th is “Ho d o   y o u   g r ee cu s to m er ?” .   I ca n   b q u esti o n   in   cu s to m er   s er v ice   en v ir o n m e n t.  T h e   r ig h t   an s wer   c o u ld   b e:  Hello ,   h o w   m ay   I   h elp   y o u ?” .   B u s em an tically   it   is   also   ac ce p tab le  to   an s wer   lik th is : “ Hi,   ca n   I   h el p   y o u ?” .   T h im p lem en ted   A V   m o d u l e’ s   alg o r ith m   ev alu ates  tex tu al  an s wer s   b y   u s in g   co s in s im ila r ity   ( , )   b etwe en   th e   ex p ec ted   an s wer   = { 1 , 2 , , } ,   an d   th e   ac tu al   an s wer   = { 1 , 2 , , } ,   wh e r   is   th n u m b er   o f   e x p ec ted   a n s wer   to k en s   an d     is   th n u m b er   o f   ac tu al  an s wer   to k en s .   T h i m p lem en ted   lo g ic   Evaluation Warning : The document was created with Spire.PDF for Python.
I n d o n esian   J   E lec  E n g   &   C o m p   Sci     I SS N:   2502 - 4 7 5 2       Gen era liz ed   d o ma in   tu to r in g   fr a mewo r fo r   A I   a g en ts   w ith   in teg r a ted   …  ( s z   C s ép á n yi - F ü r jes )   867   ca n   b u s ed   in   b o th   ca s an d   ca s B .   F o r   te x r ep r esen tatio n   th s y s tem   u s es  th STSB - R OB E R T A - L AR GE   lan g u ag m o d el  [ 34 ].   T h im p lem e n ted   p r o t o ty p e   e x p lain   s u b co m p o n en t   ev alu at es  th g iv e n   a n s wer   wo r d s ,   o n b y   o n e   an d   d is p lay s   th em   in   wo r d - clo u d   lik th is th b ig g er   th e   wo r d   in   th clo u d   th f u r th er   it  tak es  th an s wer   awa y   f r o m   th ex p ec ted   an s wer .   T o   ca lcu late  th wo r d   r ele v an ce   th alg o r ith m   s k ip s   to k en s     o f   th an s wer   o n b y   o n an d   g e n er ates  n e an s wer s   = { 1 , , 1 , + 1 , }   an d   ca lcu lates  s i m ilar ity   b etwe en   th r esu ltin g   n ew   an s wer   a n d   t h ex p ec ted   a n s wer   ( , ) .   T h e   s im ilar ity   v alu e   in   t h is   ca s is   in   co r r elatio n   wit h   th r elev an ce   o f   th s k ip p e d   to k en .   I n   o th e r   wo r d s ,   th b ig g er   t h wo r d   in   th clo u d   th e   m o r y o u   n ee d   to   ch an g th at  w o r d   to   g et  to   th e   co r r ec t a n s wer .   T h p r o to ty p teac h   s u b c o m p o n e n wo r k s   s im ilar ly   to   th e x p lain   s u b co m p o n e n t.   T h e   o n ly   d if f er en ce   is   th at  it c alcu lates th r elev an ce   o f   th e x p ec ted   a n s wer s   wo r d s   an d   p r o v id es a   clo u d   with   th f e w   m o s r elev an ex p ec ted   wo r d s   o n ly .   T h is   g iv es  h in to   th u s er   ab o u wh at  ter m s   s h o u ld   b in clu d ed   in   th e   an s wer   to   g et  ac ce p tan ce   f r o m   th A V   m o d u le.   T h r ep o r s u b co m p o n e n p r o v id es  in f o r m atio n   ab o u th n u m b er   o f   q u esti o n s ,   ev al u ated   q u esti o n s   an d   s tatis tics   ab o u th e   r esu lt  s co r es  in   J SON  f o r m at.   Usi n g   th c o n tr o l   s u b co m p o n e n th e   lear n er   ca n   ch an g e   th ev alu atio n   s ch em t o   an o th er   o n e   th at  is   b etter   f it  to   th lear n er s   n ee d s .   Fo r   e x am p le,   th er is   a   p r ed ef in e d   e v alu at io n s   s ch em th at  g i v es  b in ar y   an s wer ,   lik e:  GOOD /W R O NG,   o r   an o th er   o n t h at  ca n   g iv g r a d b ased   o n   th e   s im ilar ity   s co r e.     3 . 5   E x perim ent   wit h t he  pr o t o t y pe  AV  m o du le   T h im p lem en ted   p r o t o ty p A V   s y s tem   with   b u ilt  in   KSB   was  ev alu ated   with   g r o u p   o f   7   u n iv er s ity   s tu d en ts .   T h e   f o llo win g   ev alu atio n   o b jectiv es ( E O)   wer d ef in e d :     E O1 : T o   ev alu ate  h o th o v e r all  team   p er f o r m an ce   is   af f ec ted   b y   t h KSB   co m p o n e n t.     E O2 : T o   ev alu ate  h o th i n d iv id u al  u s er s   p er f o r m a n ce   is   af f ec ted   b y   th KSB   co m p o n e n t.     E O1   an d   E O2   ar e   m o tiv ate d   t o   em p ir ically   d em o n s tr ate  th e   u s ef u ln ess   o f   t h p r o p o s ed   K SB   co m p o n en b y   ass ess in g   th r esu lts   o f   s tu d en ts   wh en   th e y   ca n   ac ce s s   th KSB   co m p o n en a n d   wh e n   t h ey   h a v ac ce s s   o n ly   to   t h AV  m o d u le  its elf .   Du r in g   th e   ex p e r im en s et  o f   o p en - en d ed   q u esti o n s   wer e   p r esen ted   to   th s tu d e n ts .   T h s tu d en ts   s tar ted   g iv in g   an s wer s   an d   r ec eiv in g   ev alu atio n   r esp o n s es  f r o m   th A V   m o d u le.   At  ce r ta in   p o in th s y s tem   s ettin g   was  alter ed   b y   t h e   ad m in is tr ato r ,   s o   th e   s tu d en ts   s tar t ed   g ettin g   n o o n ly   e v alu atio n   r esp o n s es,  b u t   also   ex p lan atio n   an d   teac h i n g   wo r d - clo u d s   f r o m   th e   KSB   co m p o n en t .   T h e   aim   was  t o   o b s er v h o w   th e   s tu d en ts   ar p er f o r m in g   wh en   t h KSB   co m p o n en t is av ailab le  an d   w h en   it is   n o t a v ailab le ,   as d ep i cted   in   Fig u r 5 .   E O1 W ith in   th team   th er ar b etter   p er f o r m in g   an d   less   p er f o r m in g   s tu d e n ts ,   ju s li k in   an y   team .   W h en   th s tu d en ts   wer ab le  to   u s o n l y   th A V   m o d u le  ( KSB   is   en ab led   FALSE )   th b etter   p er f o r m in g   s tu d en ts   g o h i g h e r   s co r es  an d   s tar ted   ac h iev in g   b etter   r esu lts   q u ick er   th an   th o th er s .   W h en   KSB   was  ac tiv ated   ( KS B   i s   en ab led   T R UE )   th g ap   b etwe en   th s tu d en ts   b ec o m es  less er   an d   th o v er all  team   p er f o r m an ce   b ec a m ev e n   as Fig u r 5 ( a)   is   s h o win g .   E O2 Sin ce   th p r e s en ted   q u es tio n   was  n ew  to   th s tu d en ts   ev en   th b etter   p e r f o r m in g   s tu d en ts   wer s tr u g g lin g   with   th em ,   b u wh e n   th KSB   m o d u le  b ec am av ailab le  all  s tu d en ts   s tar ted   p er f o r m in g   o n   m u ch   h ig h er   lev el  as   s h o w n   in   Fig u r 5 ( b ) .           ( a)   ( b )     Fig u r 5 .   E v o lv in g   p er f o r m a n ce   o v er   tim ( C o lo r s   r ep r esen t in g   in d iv i d u al  lear n e r s )   ( a)   tea m   p er f o r m an ce   ( b )   in d iv id u al  p er f o r m an ce       Evaluation Warning : The document was created with Spire.PDF for Python.
                      I SS N :   2 5 0 2 - 4 7 5 2   I n d o n esian   J   E lec  E n g   &   C o m p   Sci Vo l.  40 ,   No .   2 ,   No v em b er   20 25 :   8 6 0 - 87 0   868   3 . 6 .     Dis cus s io n   T h ex p er im en t   with   th e   u n iv er s ity   s tu d en t   g r o u p   r ev ea le d   s ev er al   im p o r ta n in s ig h ts .   Fig u r 5 ( a)   d em o n s tr ates  th at  e n ab lin g   th KSB   co m p o n e n s ig n if ican tl y   r ed u ce d   t h p e r f o r m an ce   g a p   b etwe en   h ig h   an d   lo w - p er f o r m in g   s tu d e n ts .   T h is   s u g g ests   th at  th KS B   s u b co m p o n en ts   s u p p o r p er s o n alize d   lear n in g   b y   ad ap tin g   t o   th u s er s   n ee d s   an d   h el p in g   wea k er   u s er s   ca t ch   u p ,   th u s   p r o m o tin g   m o r eq u itab le  o u tco m es   ac r o s s   g r o u p .   Fig u r 5 ( b )   f u r th er   in d icate s   th at  all  u s er s ,   r eg ar d less   o f   in itial  s k ill  lev el,   b en ef ited   f r o m   th e   KSB s   in ter ac tiv f ee d b ac k ,   u l tim ately   im p r o v i n g   th eir   a n s wer   q u ality .   T h ese  f in d in g s   im p ly   th at  th e   KSB   f r am ewo r k   h as  s tr o n g   p o ten tial  to   b in te g r ated   in t o   AI   s y s tem s   wh er d ec is io n   ex p lan atio n   an d   u s er   g u id a n ce   ar r eq u ir e d .   I n   d o m ain s   s u ch   as  c u s to m er   s er v ice  tr ain in g ,   o n b o a r d in g ,   o r   g en e r al  wo r k p l ac lear n in g ,   th ab ilit y   to   teac h   u s er s   o n   th f ly   in   co n tex t - s en s itiv an d   n o n - in tr u s iv way   c o u ld   b t r an s f o r m ativ e.   Fu tu r e   ap p licatio n s   m ay   ex te n d   to   h ea lth ca r e,   f in an ce ,   an d   an y   d o m ain   wh e r tr u s t,  u n d er s tan d in g ,   a n d   h u m an - AI   co llab o r a tio n   ar v ital.   Fu r th er m o r e ,   th e   ex p lai n   an d   t ea ch   m o d u les  p o wer ed   b y   XAI   p r i n cip les  in tr o d u ce   t r an s p ar en cy   in t o   tr ad itio n ally   o p aq u p r o ce s s .   T h u s o f   ca teg o r y   m a p s   an d   wo r d   clo u d s   p r o v id es  in ter p r etab le  v is u al   cu es,   m ak in g   it e asier   f o r   u s er s   to   u n d er s tan d   wh y   t h eir   r esp o n s es a r in co r r ec t a n d   h o to   im p r o v e.   T h r ep o r t a n d   co n tr o m o d u les,  wh ile  m o r e   ad m in is tr ativ in   n atu r e,   co n tr ib u te  to   cu s to m izab le  an d   tr ac k ab le  lear n in g   ex p er ien ce ,   o f f e r in g   f le x ib ilit y   th at  alig n s   with   co n tin u o u s ,   li f elo n g   lear n in g   g o als.   Fro m   th eo r etica p er s p ec t iv e,   th p r o to ty p e   im p lem e n tatio n   v alid ates  th h y p o t h esis   th at   em b ed d in g   k n o wled g e - s h a r in g   co m p o n en with in   AI   s y s tem s   ca n   b r id g th g a p   b et wee n   p er f o r m an ce   ev alu atio n   an d   h u m a n   lear n i n g .   C o m p ar e d   to   th o r ig in a AV - o n ly   s ce n ar io ,   th KS B - en h an ce d   s y s tem   d em o n s tr ates  th at  ex p lain ab il ity   an d   g u id a n ce   n o o n ly   im p r o v es  o u tco m es  b u also   em p o wer s   u s er s   b y   m ak in g   AI   d ec is io n s   co m p r eh en s ib le  an d   ac tio n a b le.   W h ile  th s y s tem   cu r r e n tly   tar g ets  r elativ el y   n a r r o w   d o m ain   with   a   s m all  test   g r o u p ,   th e   im p licatio n s   ar f ar - r ea c h in g .   T h ese  ea r ly   r esu lts ,   th o u g h   li m ited   in   s co p e,   s u g g est th at  k n o wled g e - s h ar i n g   AI   f r am ewo r k s   co u l d   b u n iv er s a lly   b en ef icial  in   en h an cin g   h u m an   lear n in g   ac r o s s   v ar io u s   c o n tex ts .   Ho wev er ,   s ca lab ilit y ,   d o m ain   ad ap tatio n ,   an d   f u r th er   r e f in em en o f   th XAI   co m p o n e n ts   will  b cr itical  in   f u tu r d ev elo p m e n ts .       4.   CO NCLU SI O N   T h is   p ap er   in tr o d u ce s   f r am ewo r k   th at  em b ed s   an   im p licit  tu to r in g   m ec h an is m   d ir ec tly   in to   AI   s y s tem s .   T h p r o p o s ed   f r a m e wo r k   co n s is ts   o f   f o u r   m ajo r   s u b co m p o n en ts ,   n a m ely   ex p lain ,   r ep o r t,   co n tr o an d   teac h .   T h ex p lain   an d   teac h   s u b co m p o n en ts   p o wer e d   b y   d ed icate d   XAI   en g i n p r o v th eir   f ea s ib ilit y   th r o u g h   s u cc ess f u im p lem en tatio n .   T h r esu lts   s u g g est  p r o m is in g   ap p licatio n s   ac r o s s   r an g o f   d o m ain s   wh er h u m a n - AI   c o llab o r atio n   is   ess en tial.  B ey o n d   cu s to m er   s er v ice  tr ain in g ,   th p r o p o s ed   f r am ewo r k   co u ld   b ex ten d e d   to   e d u ca tio n ,   co r p o r ate  lear n in g   e n v ir o n m en t s ,   tech n ical  s u p p o r t,  an d   an y   s ce n ar io   in   wh ich   u s er s   b en ef it  f r o m   im m ed iate,   tr an s p ar en f ee d b ac k   an d   co n tex tu al  g u id an ce .   Fo r   th b r o a d er   r esear ch   f ield ,   th is   wo r k   co n tr ib u tes  to   th g r o win g   m o v em en to war d   h u m an - ce n ter ed   AI   b y   d em o n s tr at in g   th at  ex p lain ab ilit y   an d   in ter ac tiv it y   ar n o ju s d esira b le  f ea tu r e s ,   b u k ey   d r iv er s   o f   u s ab ilit y ,   lear n in g ,   an d   tr u s t.  Fo r   th e   co m m u n ity   o f   p r a ctice   -   in clu d in g   e d u ca to r s ,   d e v elo p er s ,   a n d   r esear ch er s   -   t h is   p r o to ty p e   p r o v id es   a   b lu ep r in f o r   d esig n i n g   s y s tem s   th at  d o n ju s au to m ate  d ec is io n   m ak in g   b u ac tiv ely   f o s ter   u n d er s tan d i n g   an d   g r o wth .   Ou ts tan d in g   q u es tio n s   r em ain   r eg a r d in g   s ca lab ilit y ,   d o m ain   g en er aliza tio n ,   a n d   th p e r f o r m an ce   o f   th s y s tem   with   lar g er ,   m o r d iv er s u s er   g r o u p s .       F UNDING   I NF O R M A T I O N   Au th o r s   s tate  n o   f u n d in g   in v o lv ed .       AUTHO CO NT RI B UT I O NS ST A T E M E N T   T h is   jo u r n al   u s es  th C o n t r ib u to r   R o les  T a x o n o m y   ( C R ed iT)   to   r ec o g n ize   in d iv i d u al  au th o r   co n tr ib u tio n s ,   r ed u ce   au th o r s h ip   d is p u tes,  an d   f ac ilit ate  co llab o r atio n .     Na m o f   Aut ho r   C   M   So   Va   Fo   I   R   D   O   E   Vi   Su   P   Fu   L ászló   C s ép án y i - r jes                               L ászló   Ko v ác s                                   Evaluation Warning : The document was created with Spire.PDF for Python.
I n d o n esian   J   E lec  E n g   &   C o m p   Sci     I SS N:   2502 - 4 7 5 2       Gen era liz ed   d o ma in   tu to r in g   fr a mewo r fo r   A I   a g en ts   w ith   in teg r a ted   …  ( s z   C s ép á n yi - F ü r jes )   869   C     C o n c e p t u a l i z a t i o n   M     M e t h o d o l o g y   So     So f t w a r e   Va     Va l i d a t i o n   Fo     Fo r mal   a n a l y si s   I     I n v e s t i g a t i o n   R     R e so u r c e s   D   :   D a t a   C u r a t i o n   O   :   W r i t i n g   -   O r i g i n a l   D r a f t   E   :   W r i t i n g   -   R e v i e w   &   E d i t i n g   Vi     Vi su a l i z a t i o n   Su     Su p e r v i s i o n   P     P r o j e c t   a d m i n i s t r a t i o n   Fu     Fu n d i n g   a c q u i s i t i o n         CO NF L I C T   O F   I N T E R E S T   ST A T E M E NT   Au th o r s   s tate  n o   co n f lict o f   in t er est.       DATA AV AI L AB I L I T Y   T h p r o to ty p e   im p lem en tati o n   is   o p e n ly   a v ailab le  at   h ttp s ://g ith u b . co m /csep a n y if u r jes/ u o m - k s b /tre e/m ain /r esu lts .       RE F E R E NC E S   [ 1 ]   R .   F u ,   Y .   H u a n g ,   a n d   P .   V .   S i n g h ,   A r t i f i c i a l   i n t e l l i g e n c e   a n d   a l g o r i t h mi c   b i a s:   s o u r c e ,   d e t e c t i o n ,   m i t i g a t i o n ,   a n d   i mp l i c a t i o n s ,   i n   Pu s h i n g   t h e   B o u n d a r i e s:   Fro n t i e r s i n   I m p a c t f u l   O R/ O R e se a rc h ,   I N F O R M S ,   2 0 2 0 ,   p p .   3 9 6 3 .   d o i :   1 0 . 1 2 8 7 / e d u c . 2 0 2 0 . 0 2 1 5 .   [ 2 ]   T.   G r ø n su n d   a n d   M .   A a n e s t a d ,   A u g m e n t i n g   t h e   a l g o r i t h m :   Em e r g i n g   h u ma n - in - t h e - l o o p   w o r k   c o n f i g u r a t i o n s,   J o u rn a l   o f   S t r a t e g i c   I n f o rm a t i o n   S y st e m s ,   v o l .   2 9 ,   n o .   2 ,   p .   1 0 1 6 1 4 ,   J u n .   2 0 2 0 ,   d o i :   1 0 . 1 0 1 6 / j . j s i s. 2 0 2 0 . 1 0 1 6 1 4 .   [ 3 ]   U .   D e ,   P .   O .   N a n t e r r e ,   L.   D é f e n se,   a n d   B .   D a v i d ,   C o mp u t e r   t e c h n o l o g y   a n d   p r o b a b l e   j o b   d e st r u c t i o n i n   Ja p a n :   a n   e v a l u a t i o n   C o m p u t e r   t e c h n o l o g y   a n d   p r o b a b l e   j o b   d e s t r u c t i o n i n   Ja p a n :   a n   e v a l u a t i o n   * ,   2 0 1 5 .   [ 4 ]   S .   V o sw i n k e l ,   M e a n i n g f u l   w o r k ,   C o m p a r a t i v e   S o c i o l o g y ,   v o l .   1 9 ,   n o .   6 ,   p p .   7 4 1 7 5 5 ,   D e c .   2 0 2 0 ,   d o i :   1 0 . 1 1 6 3 / 1 5 6 9 1 3 3 0 - 1 2 3 4 1 5 2 9 .   [ 5 ]   T.   T u r j a ,   J.   M i n k k i n e n ,   a n d   S .   M a u n o ,   R o b o t i z i n g   me a n i n g f u l   w o r k ,   J o u rn a l   o f   I n f o rm a t i o n ,   C o m m u n i c a t i o n   a n d   E t h i c s   i n   S o c i e t y ,   v o l .   2 0 ,   n o .   2 ,   p p .   1 7 7 1 9 2 ,   A p r .   2 0 2 2 ,   d o i :   1 0 . 1 1 0 8 / JI C ES - 06 - 2 0 2 1 - 0 0 6 3 .   [ 6 ]   O p e n A I ,   C h a t G P T ,   C h a t G P m o d e l   ( G P T - 4 ) .   A c c e sse d :   S e p .   1 7 ,   2 0 2 4 .   [ O n l i n e ] .   A v a i l a b l e :   h t t p s: / / c h a t . o p e n a i . c o m/   [ 7 ]   A .   L.   O v e r o n o   a n d   A .   S .   D i t t a ,   Th e   r i se   o f   a r t i f i c i a l   i n t e l l i g e n c e :   a   c l a r i o n   c a l l   f o r   h i g h e r   e d u c a t i o n   t o   r e d e f i n e   l e a r n i n g   a n d   r e i ma g i n e   a ss e ssm e n t ,   C o l l e g e   T e a c h i n g ,   v o l .   7 3 ,   n o .   2 ,   p p .   1 2 3 1 2 6 ,   A p r .   2 0 2 5 ,   d o i :   1 0 . 1 0 8 0 / 8 7 5 6 7 5 5 5 . 2 0 2 3 . 2 2 3 3 6 5 3 .   [ 8 ]   D .   C a st e l v e c c h i ,   C a n   w e   o p e n   t h e   b l a c k   b o x   o f   A I ? ,   N a t u r e ,   v o l .   5 3 8 ,   n o .   7 6 2 3 ,   p p .   2 0 2 3 ,   O c t .   2 0 1 6 ,   d o i :   1 0 . 1 0 3 8 / 5 3 8 0 2 0 a .   [ 9 ]   P .   P .   A n g e l o v ,   E.   A .   S o a r e s,   R .   J i a n g ,   N .   I .   A r n o l d ,   a n d   P .   M .   A t k i n s o n ,   E x p l a i n a b l e   a r t i f i c i a l   i n t e l l i g e n c e :   a n   a n a l y t i c a l   re v i e w ,   Wi l e y   I n t e r d i s c i p l i n a ry   Re v i e w s:   D a t a   M i n i n g   a n d   K n o w l e d g e   D i sc o v e ry ,   v o l .   1 1 ,   n o .   5 ,   S e p .   2 0 2 1 ,   d o i :   1 0 . 1 0 0 2 / w i d m. 1 4 2 4 .   [ 1 0 ]   A .   I g n a t i e v ,   To w a r d t r u st a b l e   e x p l a i n a b l e   A I ,   i n   I J C AI   I n t e r n a t i o n a l   J o i n t   C o n f e re n c e   o n   Ar t i f i c i a l   I n t e l l i g e n c e ,   C a l i f o r n i a :   I n t e r n a t i o n a l   Jo i n t   C o n f e r e n c e s   o n   A r t i f i c i a l   I n t e l l i g e n c e   O r g a n i z a t i o n ,   Ju l .   2 0 2 0 ,   p p .   5 1 5 4 5 1 5 8 .   d o i :   1 0 . 2 4 9 6 3 / i j c a i . 2 0 2 0 / 7 2 6 .   [ 1 1 ]   R .   C o n f a l o n i e r i ,   L .   C o b a ,   B .   W a g n e r ,   a n d   T .   R .   B e s o l d ,   A   h i st o r i c a l   p e r sp e c t i v e   o f   e x p l a i n a b l e   A r t i f i c i a l   I n t e l l i g e n c e ,   Wi l e y   I n t e r d i sci p l i n a r y   R e v i e w s:   D a t a   M i n i n g   a n d   K n o w l e d g e   D i sc o v e ry ,   v o l .   1 1 ,   n o .   1 ,   Ja n .   2 0 2 1 ,   d o i :   1 0 . 1 0 0 2 / w i d m . 1 3 9 1 .   [ 1 2 ]   F .   K .   D o s i l o v i c ,   M .   B r c i c ,   a n d   N .   H l u p i c ,   E x p l a i n a b l e   a r t i f i c i a l   i n t e l l i g e n c e :   A   su r v e y ,   i n   2 0 1 8   4 1 st   I n t e r n a t i o n a l   C o n v e n t i o n   o n   I n f o rm a t i o n   a n d   C o m m u n i c a t i o n   T e c h n o l o g y ,   E l e c t r o n i c a n d   M i c r o e l e c t r o n i c s ,   MIPRO   2 0 1 8   -   Pr o c e e d i n g s ,   I EEE,   M a y   2 0 1 8 ,   p p .   2 1 0 2 1 5 .   d o i :   1 0 . 2 3 9 1 9 / M I P R O . 2 0 1 8 . 8 4 0 0 0 4 0 .   [ 1 3 ]   B .   I .   M a r t i n ,   I n t e l l i g e n t   t u t o r i n g   s y st e ms:  t h e   p r a c t i c a l   i mp l e m e n t a t i o n   o f   c o n st r a i n t - b a se d   m o d e l l i n g ,   C o m p u t e S c i e n c e ,   2 0 0 1 ,   [ O n l i n e ] .   A v a i l a b l e :   h t t p : / / c i t e se e r x . i s t . p su . e d u / v i e w d o c / d o w n l o a d ? d o i = 1 0 . 1 . 1 . 1 5 0 . 7 4 8 1 & a mp ; r e p = r e p 1 &am p ; t y p e = p d f   [ 1 4 ]   R .   D w i v e d i   e t   a l . ,   E x p l a i n a b l e   A I   ( X A I ) :   c o r e   i d e a s ,   t e c h n i q u e s,  a n d   s o l u t i o n s,   A C C o m p u t i n g   S u r v e y s ,   v o l .   5 5 ,   n o .   9 ,   p p .   1 3 3 ,   S e p .   2 0 2 3 ,   d o i :   1 0 . 1 1 4 5 / 3 5 6 1 0 4 8 .   [ 1 5 ]   P .   Li n a r d a t o s,  V .   P a p a st e f a n o p o u l o s ,   a n d   S .   K o t si a n t i s ,   E x p l a i n a b l e   a i :   a   r e v i e w   o f   ma c h i n e   l e a r n i n g   i n t e r p r e t a b i l i t y   m e t h o d s ,   En t r o p y ,   v o l .   2 3 ,   n o .   1 ,   p p .   1 4 5 ,   D e c .   2 0 2 1 ,   d o i :   1 0 . 3 3 9 0 / e 2 3 0 1 0 0 1 8 .   [ 1 6 ]   A .   H o l z i n g e r ,   A .   S a r a n t i ,   C .   M o l n a r ,   P .   B i e c e k ,   a n d   W .   S a m e k ,   E x p l a i n a b l e   A I   me t h o d -   a   b r i e f   o v e r v i e w ,   i n   L e c t u re   N o t e s   i n   C o m p u t e r   S c i e n c e   ( i n c l u d i n g   s u b seri e L e c t u r e   N o t e i n   Art i f i c i a l   I n t e l l i g e n c e   a n d   L e c t u r e   N o t e s   i n   Bi o i n f o rm a t i c s) ,   v o l .   1 3 2 0 0   LN A I ,   2 0 2 2 ,   p p .   1 3 3 8 .   d o i :   1 0 . 1 0 0 7 / 9 7 8 - 3 - 0 3 1 - 0 4 0 8 3 - 2 _ 2 .   [ 1 7 ]   V .   B i d v e   e t   a l . ,   U se  o f   e x p l a i n a b l e   A I   t o   i n t e r p r e t   t h e   r e s u l t s   o f   N LP  m o d e l s   f o r   s e n t i me n t a l   a n a l y s i s,”   I n d o n e s i a n   J o u r n a l   o f   El e c t r i c a l   En g i n e e r i n g   a n d   C o m p u t e r   S c i e n c e ,   v o l .   3 5 ,   n o .   1 ,   p p .   5 1 1 5 1 9 ,   Ju l .   2 0 2 4 ,   d o i :   1 0 . 1 1 5 9 1 / i j e e c s . v 3 5 . i 1 . p p 5 1 1 - 5 1 9 .   [ 1 8 ]   C .   C o n a t i ,   O .   B a r r a l ,   V .   P u t n a m ,   a n d   L.   R i e g e r ,   T o w a r d   p e r s o n a l i z e d   X A I :   A   c a se  st u d y   i n   i n t e l l i g e n t   t u t o r i n g   sy s t e ms ,   Art i f i c i a l   I n t e l l i g e n c e ,   v o l .   2 9 8 ,   p .   1 0 3 5 0 3 ,   S e p .   2 0 2 1 ,   d o i :   1 0 . 1 0 1 6 / j . a r t i n t . 2 0 2 1 . 1 0 3 5 0 3 .   [ 1 9 ]   J.  J.  D u d l e y   a n d   P .   O .   K r i st e n ss o n ,   A   r e v i e w   o f   u ser  i n t e r f a c e   d e si g n   f o r   i n t e r a c t i v e   ma c h i n e   l e a r n i n g ,   A C M   T ra n s a c t i o n o n   I n t e r a c t i v e   I n t e l l i g e n t   S y st e m s ,   v o l .   8 ,   n o .   2 ,   p p .   1 3 7 ,   J u n .   2 0 1 8 ,   d o i :   1 0 . 1 1 4 5 / 3 1 8 5 5 1 7 .   [ 2 0 ]   N .   P f e u f f e r   e t   a l . ,   Ex p l a n a t o r y   i n t e r a c t i v e   m a c h i n e   l e a r n i n g :   e st a b l i s h i n g   a n   a c t i o n   d e si g n   r e sea r c h   p r o c e ss  f o r   mac h i n e   l e a r n i n g   p r o j e c t s,   B u si n e ss  a n d   I n f o rm a t i o n   S y s t e m E n g i n e e ri n g ,   v o l .   6 5 ,   n o .   6 ,   p p .   6 7 7 7 0 1 ,   D e c .   2 0 2 3 ,   d o i :   1 0 . 1 0 0 7 / s1 2 5 9 9 - 023 - 0 0 8 0 6 - x.   [ 2 1 ]   S .   T e so ,   Ö .   A l k a n ,   W .   S t a mm e r ,   a n d   E.   D a l y ,   Le v e r a g i n g   e x p l a n a t i o n i n   i n t e r a c t i v e   mac h i n e   l e a r n i n g :   A n   o v e r v i e w ,   Fr o n t i e r s   i n   Art i f i c i a l   I n t e l l i g e n c e ,   v o l .   6 ,   F e b .   2 0 2 3 ,   d o i :   1 0 . 3 3 8 9 / f r a i . 2 0 2 3 . 1 0 6 6 0 4 9 .   [ 2 2 ]   T.   S p i n n e r ,   U .   S c h l e g e l ,   H .   S c h a f e r ,   a n d   M .   E l - A ssa d y ,   e x p l A I n e r :   a   v i s u a l   a n a l y t i c s   f r a m e w o r k   f o r   I n t e r a c t i v e   a n d   Ex p l a i n a b l e   M a c h i n e   Le a r n i n g ,   I EEE  T r a n sa c t i o n o n   Vi s u a l i za t i o n   a n d   C o m p u t e G ra p h i c s ,   v o l .   2 6 ,   n o .   1 ,   p p .   1 0 6 4 1 0 7 4 ,   2 0 1 9 ,   d o i :   1 0 . 1 1 0 9 / TV C G . 2 0 1 9 . 2 9 3 4 6 2 9 .   [ 2 3 ]   A .   D o r r i ,   S .   S .   K a n h e r e ,   a n d   R .   J u r d a k ,   M u l t i - a g e n t   sy s t e ms :   a   s u r v e y ,   I EEE  A c c e ss ,   v o l .   6 ,   p p .   2 8 5 7 3 2 8 5 9 3 ,   2 0 1 8 ,   d o i :   1 0 . 1 1 0 9 / A C C ESS . 2 0 1 8 . 2 8 3 1 2 2 8 .   [ 2 4 ]   J.  Tr a x l e r ,   D i st a n c e   l e a r n i n g p r e d i c t i o n a n d   p o ssi b i l i t i e s,”   E d u c a t i o n   S c i e n c e s ,   v o l .   8 ,   n o .   1 ,   p .   3 5 ,   M a r .   2 0 1 8 ,   d o i :   1 0 . 3 3 9 0 / e d u c sc i 8 0 1 0 0 3 5 .   [ 2 5 ]   C .   Lw a n d e ,   L.   M u c h e mi ,   a n d   R .   O b o k o ,   I d e n t i f y i n g   l e a r n i n g   s t y l e a n d   c o g n i t i v e   t r a i t i n   a   l e a r n i n g   ma n a g e m e n t   sy s t e m ,   H e l i y o n ,   v o l .   7 ,   n o .   8 ,   p .   e 0 7 7 0 1 ,   A u g .   2 0 2 1 ,   d o i :   1 0 . 1 0 1 6 / j . h e l i y o n . 2 0 2 1 . e 0 7 7 0 1 .     Evaluation Warning : The document was created with Spire.PDF for Python.