Οι δαπανηρές συνέπειες του ανήθικου AI Whisperer (Πάντμα Τσούκα)

                         

Ναι.. Μιλάω για τις εφαρμογές τεχνητής νοημοσύνης – οι μυριάδες μας εφαρμογές τεχνητής νοημοσύνης και οι επερχόμενες που ψιθυρίζουν στους ανθρώπους τι να κάνουν…. πώς να το κάνουμε… αλλά όχι για τους ψιθυριστές που αλληλεπιδρούν με τα chatbot της τεχνητής νοημοσύνης.

Σύμφωνα με IDC προβλέψεις, η παγκόσμια αγορά τεχνητής νοημοσύνης θα μπορούσε να φτάσει πάνω από 500 δισεκατομμύρια δολάρια έως το 2024 – μια αύξηση άνω του 50% από το 2021. Αυτό δείχνει ότι περάσαμε από τα επιχειρηματικά πειράματα στην αποδοχή ότι αποτελεί αναπόσπαστο μέρος της στρατηγικής των επιχειρήσεων για όλα τα μεγέθη. Είναι ένα απαραίτητο εργαλείο για τη μετατροπή των δεδομένων σε γνώσεις για να πυροδοτήσει δράση βασισμένη σε καλύτερες αποφάσεις. Κανείς δεν συζητά τα οφέλη της τεχνητής νοημοσύνης για τη μείωση του επιχειρηματικού κινδύνου και την ενίσχυση της απόδοσης επένδυσης με την καινοτομία. Αλλά, όπως πάντα, υπάρχει ένα …ΑΛΛΑ… η αμερόληπτη τεχνητή νοημοσύνη είναι πιο εύκολο να ειπωθεί παρά να γίνει.

Είναι κρίσιμο για την επιχείρηση, αυτά τα μοντέλα τεχνητής νοημοσύνης πρέπει να λειτουργούν αξιόπιστα με ορατότητα και υπευθυνότητα. Διαφορετικά, η αποτυχία, σε αυτήν την περίπτωση, έχει τρομερές συνέπειες που επηρεάζουν τις ταμειακές ροές οποιασδήποτε εταιρείας και μπορεί ακόμη και να οδηγήσει σε νομικά ζητήματα. Ο μόνος τρόπος για να αποφευχθεί αυτό είναι η αυτοματοποίηση και η διαφάνεια για να απαντήσετε σε μια ερώτηση «Μπορείτε να αποδείξετε ότι αυτή η εφαρμογή τεχνητής νοημοσύνης/φόρτος εργασίας έχει κατασκευαστεί με ηθικό τρόπο». Άκα… πώς κυβερνάς; Και μπορείς να αποδείξεις ότι κυβερνάται συνέχεια;

Εδώ αρέσει στις εταιρείες IBM έχουν επενδύσει στη διακυβέρνηση AI για να ενορχηστρώσουν τη συνολική διαδικασία διεύθυνσης, διαχείρισης και παρακολούθησης των δραστηριοτήτων AI του οργανισμού. Η πρωταρχική δουλειά είναι να διασφαλιστεί ότι όλες οι επιχειρηματικές μονάδες θα παραμείνουν προληπτικές και θα εμφυσήσουν το πλαίσιο διακυβέρνησης στις πρωτοβουλίες για την ενίσχυση της ικανότητας τήρησης ηθικών αρχών και κανονισμών. Ειδικά, οι ρυθμιζόμενες βιομηχανίες όπως οι Τράπεζες και οι χρηματοπιστωτικές υπηρεσίες υποχρεούνται νομικά να παρέχουν τα αποδεικτικά στοιχεία για να ικανοποιήσουν τις ρυθμιστικές αρχές.

Η επιρροή της τεχνητής νοημοσύνης αυξάνεται εκθετικά στον τομέα των χρηματοοικονομικών υπηρεσιών λόγω της τεράστιας πίεσης του ψηφιακού μετασχηματισμού. Όπως είπαμε, είναι πιο εύκολο να το λες παρά να το κάνεις γιατί:

1. Θέστε σε λειτουργία τις εφαρμογές AI με σιγουριά:

Σε ορισμένες περιπτώσεις, τα μοντέλα κατασκευάζονται χωρίς σαφήνεια και καταλογογράφηση. Περιττό να πούμε ότι η παρακολούθηση ξεφεύγει μέσα σε όλα για την παρακολούθηση του κύκλου ζωής από άκρο σε άκρο. Ενώ οι τράπεζες παλεύουν με παλαιού τύπου εφαρμογές, η αυτοματοποίηση των διαδικασιών για τη δημιουργία διαφάνειας και επεξήγησης έγινε πιο δύσκολη και, με τη σειρά της, ένα μαύρο κουτί. Κανείς δεν ξέρει γιατί/πώς ελήφθησαν οι αποφάσεις. Οι νέες εφαρμογές που μπερδεύονται με τις παλαιού τύπου εφαρμογές δεν βλέπουν ποτέ το φως της ημέρας, αν και συνδέεται μια τεράστια απόδοση επένδυσης (ROI) λόγω της ποιότητας και των μη αντιληπτών κινδύνων.

Αυτό μας φέρνει στο δεύτερο σημείο - τη διαχείριση του κινδύνου φήμης

2. Διαχειριστείτε τον κίνδυνο φήμης μαζί με τον συνολικό κίνδυνο

Έχω ρωτήσει #chatGPT και  #Βάρδος – ποια είναι η Πάντμα Τσούκα. #ChatGPT αρνήθηκε να απαντήσει ακόμα κι αν άλλαζα την ερώτηση με πολλούς τρόπους. Ωστόσο, ο Bard μου έδωσε μια λεπτομερή απάντηση, συμπεριλαμβανομένου του προφίλ μου στο LinkedIn…αλλά τα δεδομένα προέρχονται από διάφορους ιστότοπους όπου το παλιό μου προφίλ εξακολουθεί να υπάρχει ως μέρος του bios των ηχείων. Από εκείνο το σημείο και μετά, δεν έχω ανοίξει ακόμη το Bard. Τόσο γρήγορα, απενεργοποιήθηκα, γνωστός και ως – Κίνδυνος φήμης. Ας υποθέσουμε ότι μπορώ να απενεργοποιήσω ένα απλό chatbot όταν συνειδητοποιήσω ότι τα δεδομένα μπορεί να είναι ασυνεπή. Πώς θα μπορούσα να μην βεβαιωθώ πριν αποφασίσω να αγοράσω μια εφαρμογή με τεχνητή νοημοσύνη για τη διεξαγωγή κρίσιμων εργασιών; Ο κίνδυνος φήμης είναι ένας ουσιαστικός παράγοντας που μερικές φορές οι εταιρείες ξεχνούν. Αν ποσοτικοποιήσετε τον κίνδυνο φήμης, μπορεί κανείς να δει τον τεράστιο αντίκτυπο στην επιχείρηση εάν δεν είναι προληπτικός.

Για να αυξηθεί η πολυπλοκότητα, το τρίτο είναι…

3. Πώς μπορεί μια εταιρεία να ανταποκριθεί στους μεταβαλλόμενους κανονισμούς τεχνητής νοημοσύνης;

Για να αποφευχθεί ο κίνδυνος της φήμης, μια επιτυχημένη και υπεύθυνη ομάδα τεχνητής νοημοσύνης θα πρέπει να γνωρίζει κάθε τοπικό και παγκόσμιο κανονισμό, που εμφανίζεται σαν βίντεο με μια ειδοποίηση μιας στιγμής. Και η μη συμμόρφωση μπορεί τελικά να κοστίσει σε έναν οργανισμό εκατομμύρια δολάρια σε πρόστιμα γύρω από το έργο, όπως ο προτεινόμενος νόμος της ΕΕ για την τεχνητή νοημοσύνη. Μπορεί να είναι έως και 30 εκατομμύρια ευρώ ή το 6% των παγκόσμιων εσόδων της εταιρείας – OUCH.

Λοιπόν, δεν χρειάζεται να είναι όλα ρόδινα στην αρχή… αρκεί να ξέρουμε πώς να κάνουμε μια αναμόρφωση από μια τρομακτική σε μια ρόδινη κατάσταση.

Χωρίς καμία έκπληξη… είναι πάντα οι άνθρωποι, η διαδικασία και η τεχνολογία. Έτσι, πρώτα, δημιουργήστε ένα διαλειτουργικό διοικητικό όργανο για την εκπαίδευση, την κατεύθυνση και την παρακολούθηση των πρωτοβουλιών με βάση τους στόχους. Στη συνέχεια, συγκρίνετε την τρέχουσα τεχνολογία και διαδικασίες τεχνητής νοημοσύνης, κατανοήστε τα κενά και, στη συνέχεια, επανορθώστε για μελλοντική απόδειξη. Στη συνέχεια, επιστρέψτε σε ένα σύνολο αυτοματοποιημένων ροών εργασίας διακυβέρνησης σύμφωνα με τις απαιτήσεις συμμόρφωσης. Τέλος, δημιουργήστε ένα σύστημα παρακολούθησης για να ειδοποιεί τους ιδιοκτήτες εάν πλησιάζει το αποδεκτό όριο. Από την πλευρά της τεχνολογίας, ένα καλά αρχιτεκτονημένο, καλά εκτελεσμένο και καλά συνδεδεμένο AI απαιτεί πολλά δομικά στοιχεία. Και βεβαιωθείτε ότι έχει κάποιες ή όλες τις δυνατότητες:

· Ακεραιότητα δεδομένων σε διάφορες αναπτύξεις

· Χρησιμοποιήστε ανοιχτά, ευέλικτα υπάρχοντα εργαλεία που συμμορφώνονται με τη Διακυβέρνηση AI

· Φροντίστε να προσφέρετε πρόσβαση αυτοεξυπηρέτησης με στοιχεία ελέγχου απορρήτου – ένας τρόπος παρακολούθησης

· Σχεδιασμός με γνώμονα την αυτοματοποίηση και τη διακυβέρνηση AI

· Μπορεί να συνδεθεί και να είναι προσαρμόσιμο για πολλούς ενδιαφερόμενους μέσω προσαρμόσιμης ροής εργασιών

Μόλις δώσουμε μια αναμόρφωση της εφαρμογής από τρομακτικό σε Rosy…τότε η επόμενη ερώτηση είναι πώς θα αποδείξετε…

Πρώτον, επαναλάβετε τις αρχές της τεχνητής νοημοσύνης της εταιρείας – δημιουργήστε με αυτές, και ωστόσο πρέπει να «δείξετε» ότι συμμορφώνεστε, ειδικά σε ρυθμιζόμενα περιβάλλοντα όπως οι Χρηματοοικονομικές Υπηρεσίες. Δεδομένου ότι οι χρηματοοικονομικές υπηρεσίες πρέπει να παραπονεθούν με το NIST 800-53, θα μπορούσαν να εξετάσουν το NIST AI Risk Management Framework (AI RMF). Το NIST πρότεινε τους ελέγχους σε τέσσερις οικογένειες – Διακυβέρνηση, Χάρτης, Μέτρηση και Διαχείριση. Χρησιμοποιώντας αυτό ως καθοδηγητικό παράγοντα και τεστ αντοχής οι εφαρμογές για τον εντοπισμό των κενών προς αποκατάσταση και παρακολούθηση.

Η IBM μπορεί να επικυρώσει τα μοντέλα σας προτού τα βάλετε στην παραγωγή και μπορεί να παρακολουθείται για δικαιοσύνη, ποιότητα και μετατόπιση. Μπορεί επίσης να παρέχει τεκμηρίωση που εξηγεί τη συμπεριφορά και τις προβλέψεις του μοντέλου για την ικανοποίηση των απαιτήσεων των ρυθμιστικών αρχών και των ελεγκτών. Αυτές οι επεξηγήσεις μπορούν να παρέχουν ορατότητα και να διευκολύνουν τον πόνο του ελέγχου και να αυξάνουν τη διαφάνεια και την ικανότητα προσδιορισμού πιθανών κινδύνων.

 Ακούστε αυτούς τους ψιθύρους AI με σιγουριά!

#Χρηματοπιστωτικές υπηρεσίες #responsibleai #ηθικά #NISTAIRMF

• SEO Powered Content & PR Distribution. Ενισχύστε σήμερα.
• Platoblockchain. Web3 Metaverse Intelligence. Ενισχύθηκε η γνώση. Πρόσβαση εδώ.
• Minting the Future με την Adryenn Ashley. Πρόσβαση εδώ.
• πηγή: https://www.finextra.com/blogposting/24053/the-costly-consequences-of-unethical-ai-whisperer?utm_medium=rssfinextra&utm_source=finextrablogs