Καθώς οι επιχειρήσεις περνούν από τη φάση της πειραματικής υιοθέτησης της τεχνητής νοημοσύνης στη συστηματική ενσωμάτωσή της στις λειτουργίες τους, ένα νέο πρόβλημα έρχεται στο προσκήνιο: η αξιοπιστία.
.
Σύμφωνα με έκθεση της HFS Research και της TCS, στην οποία συμμετείχαν περισσότερα από 100 ανώτατα και τεχνολογικά στελέχη στις ΗΠΑ και τον Καναδά, μόλις περίπου ένας στους τρεις θεωρεί ότι η AI προσφέρει με συνέπεια τα επιδιωκόμενα επιχειρηματικά αποτελέσματα, παραμένει υπό έλεγχο και ταυτόχρονα κερδίζει την εμπιστοσύνη ρυθμιστικών αρχών, πελατών και διοικήσεων.
Το εύρημα δείχνει ότι το βασικό ερώτημα για τις εταιρείες δεν είναι πλέον απλώς αν μπορούν να αναπτύξουν εφαρμογές AI, αλλά αν μπορούν πραγματικά να βασιστούν σε αυτές.
Μόλις μία στις τέσσερις εταιρείες είναι έτοιμη για κλιμάκωση
Η έρευνα καταγράφει σημαντικό κενό και στο επίπεδο του governance. Μόλις το 25% των στελεχών δηλώνει ότι διαθέτει τα απαραίτητα συστήματα διακυβέρνησης και ελέγχου ώστε η τεχνητή νοημοσύνη να επεκταθεί με ασφάλεια σε ολόκληρη την επιχείρηση.
Ακόμη πιο περιορισμένη είναι η εμπιστοσύνη στην αυτόνομη AI. Μόλις περίπου ένας στους έξι δηλώνει ότι θα εμπιστευόταν autonomous AI για κρίσιμες εργασίες.
Η Dana Daher, executive research leader στην HFS Research, σημειώνει ότι μετά από χρόνια κατά τα οποία η συζήτηση περιστρεφόταν γύρω από το αν οι επιχειρήσεις μπορούν να αναπτύξουν τα εργαλεία, η μεγαλύτερη πρόκληση είναι πλέον αν μπορούν να εξαρτηθούν από αυτά.
Η AI δεν μειώνει πάντα κόστος και χρόνο
Η αυξανόμενη επιφυλακτικότητα των επιχειρήσεων συνδέεται και με το γεγονός ότι οι επενδύσεις στην AI αυξάνονται χωρίς τα οφέλη να είναι πάντοτε ξεκάθαρα.
Οι επιχειρήσεις χρησιμοποιούν ήδη τα εργαλεία για ανάλυση δεδομένων, παραγωγή insights και επικοινωνία με πελάτες. Ωστόσο, σύμφωνα με πρόσφατη έρευνα της SAP που επικαλείται το ESG Dive, η τεχνολογία δεν οδηγεί απαραίτητα σε αντίστοιχη εξοικονόμηση χρόνου ή χρημάτων.
Στο κόστος προστίθενται και ζητήματα όπως τα διαφορετικά μοντέλα τιμολόγησης μεταξύ προμηθευτών και ο κατακερματισμός της αγοράς τεχνολογικών λύσεων.
Παράλληλα, το χαμηλό επίπεδο κατανόησης της AI από το ανθρώπινο δυναμικό αποτελεί πρόσθετο εμπόδιο. Έρευνα της Forrester έδειξε ότι μόλις το 16% των εργαζομένων σε θέσεις πληροφορίας θεωρεί ότι κατανοεί σε υψηλό βαθμό την τεχνητή νοημοσύνη.
Η εμπιστοσύνη αυξάνεται όταν υπάρχει άνθρωπος στον έλεγχο
Η παρουσία ανθρώπινης εποπτείας παραμένει βασική προϋπόθεση για την εμπιστοσύνη στα συστήματα AI.
Σύμφωνα με την HFS Research, η αξιόπιστη τεχνητή νοημοσύνη δεν σημαίνει ότι δεν θα υπάρξει ποτέ αστοχία. Σημαίνει ότι η επιχείρηση μπορεί να εντοπίσει γρήγορα το πρόβλημα, να εξηγήσει τι συνέβη και να το θέσει υπό έλεγχο.
Για τον λόγο αυτό, μια σαφής στρατηγική human-in-the-loop θεωρείται κρίσιμη. Οι εταιρείες πρέπει να καθορίζουν ποιος άνθρωπος έχει την τελική ευθύνη, τι ακριβώς επιβλέπει και σε ποια σημεία μπορεί να παρεμβαίνει.
Η εκπαίδευση των εργαζομένων αποκτά επομένως εξίσου μεγάλη σημασία με την ίδια την τεχνολογία.
Από τα τεχνικά metrics στα επιχειρηματικά αποτελέσματα
Ένα ακόμη πρόβλημα είναι ο τρόπος με τον οποίο οι εταιρείες αξιολογούν την επιτυχία των συστημάτων AI.
Σήμερα, παρακολουθούνται συχνότερα τεχνικοί δείκτες, όπως το uptime και η ακρίβεια, σε σχέση με το κατά πόσο ένα σύστημα παράγει πραγματική επιχειρηματική αξία.
Η HFS Research υποστηρίζει ότι η αξιολόγηση πρέπει να μετακινηθεί προς το business outcome: αν η AI μειώνει ουσιαστικά το κόστος, βελτιώνει την παραγωγικότητα, περιορίζει τον κίνδυνο ή δημιουργεί καλύτερα αποτελέσματα για πελάτες και εργαζομένους.
Η τεχνική απόδοση από μόνη της δεν αρκεί αν δεν μεταφράζεται σε μετρήσιμη αξία.
Το πρόβλημα της εξηγησιμότητας
Καθώς τα συστήματα γίνονται πιο σύνθετα, αυξάνεται και η δυσκολία των διοικήσεων να κατανοήσουν πώς ακριβώς προέκυψε μια απόφαση.
Αυτό δημιουργεί μια ιδιαίτερα σημαντική πρόκληση για το corporate governance, ειδικά όταν η τεχνητή νοημοσύνη χρησιμοποιείται σε κρίσιμους τομείς.
Οι επιχειρήσεις καλούνται να υιοθετήσουν την AI όλο και περισσότερο, την ίδια στιγμή που πολλές φορές δεν μπορούν να εξηγήσουν με σαφήνεια πώς δημιουργήθηκε μια συγκεκριμένη απάντηση ή απόφαση.
Η ένταση αυτή μεταξύ ταχύτητας υιοθέτησης και περιορισμένης διαφάνειας αναμένεται να κάνει το AI governance ένα από τα σημαντικότερα ζητήματα διοίκησης και κανονιστικής συμμόρφωσης τα επόμενα χρόνια.
Η επόμενη φάση της AI είναι η αξιοπιστία
Η αγορά φαίνεται να περνά σε μια πιο ώριμη φάση.
Η πρώτη περίοδος της generative AI χαρακτηρίστηκε από ταχύτατη υιοθέτηση, πειραματισμό και πίεση προς τις επιχειρήσεις να ενσωματώσουν την τεχνολογία πριν από τον ανταγωνισμό.
Το επόμενο στάδιο είναι διαφορετικό. Οι διοικήσεις πρέπει πλέον να αποδείξουν ότι τα συστήματα λειτουργούν αξιόπιστα, μπορούν να ελεγχθούν και προσφέρουν πραγματικά οικονομικά αποτελέσματα.
Σε αυτό το περιβάλλον, το AI governance παύει να αποτελεί απλώς ζήτημα συμμόρφωσης. Γίνεται βασική προϋπόθεση για να μπορέσουν οι επιχειρήσεις να περάσουν από την πειραματική χρήση της τεχνητής νοημοσύνης στην πραγματική εξάρτηση από αυτήν.
