ΕΥ: Πλατφόρμα εμπιστοσύνης για τεχνική νοημοσύνη

Η ΕΥ ανακοίνωσε ότι έχει αναπτύξει την πρώτη λύση, η οποία έχει σχεδιαστεί για να βοηθήσει τις επιχειρήσεις να ποσοτικοποιήσουν τον αντίκτυπο και την αξιοπιστία των συστημάτων τεχνητής νοημοσύνης τους (ΑΙ).

Η πλατφόρμα της ΕΥ, Trusted AI, η οποία βασίζεται στο Microsoft Azure, προσφέρει στους χρήστες μία ολοκληρωμένη προσέγγιση για να αξιολογήσουν, να ελέγξουν και να ποσοτικοποιήσουν το αντίκτυπο και την αξιοπιστία της τεχνητής νοημοσύνης. Η πλατφόρμα χρησιμοποιεί ανεπτυγμένα αναλυτικά μοντέλα για να αξιολογήσει τον τεχνικό σχεδιασμό ενός συστήματος τεχνητής νοημοσύνης, υπολογίζοντας τους κύριους κινδύνους, οι οποίοι περιλαμβάνουν τον σκοπό, τις τεχνολογίες που χρησιμοποιεί, το τεχνικό περιβάλλον λειτουργίας και τον βαθμό αυτονομίας σε σχέση με την ανθρώπινη επίβλεψη, εκδίδοντας στη συνέχεια μία τεχνική αξιολόγηση.

Αυτή η καινούρια πλατφόρμα παρέχει πληροφορίες σε χρήστες, όπως AI developers, executive sponsors και αναλυτές κινδύνων. Η τεχνική αξιολόγηση που εκδίδεται, συνυπολογίζεται μαζί με έναν πολυσύνθετο πολλαπλασιαστή που βασίζει τους υπολογισμούς του σε σύγκριση με το αντίκτυπο επί των χρηστών, λαμβάνοντας υπόψη μη ηθελημένες επιπτώσεις, όπως οι κοινωνικές και ηθικές συνέπειες. Η αξιολόγηση της διακυβέρνησης και της ωριμότητας του ελέγχου λειτουργεί ως επιπλέον παράγοντας για την ελαχιστοποίηση του υπολειπόμενου κινδύνου. Το μοντέλο αξιολόγησης και ποσοτικοποίησης του κινδύνου βασίζεται στο πλαίσιο Trusted AI της ΕΥ το οποίο χρησιμοποιείται προκειμένου να βοηθήσει τις εταιρείες να κατανοήσουν και να δημιουργήσουν τα κατάλληλα σχέδια για την αντιμετώπιση των νέων κινδύνων που μπορεί να απειλούν προϊόντα τους, τις μάρκες (brands) τους, τις σχέσεις και τη φήμη τους.

Ένα διαδραστικό περιβάλλον διεπαφής, το οποίο βασίζεται στο διαδίκτυο, καθοδηγεί τους χρήστες σε μία σειρά από διαγράμματα και εργαλεία αξιολόγησης προκειμένου να δομήσουν ένα προφίλ για τους κινδύνους από την τεχνητή νοημοσύνη. Οι φιλικές προς τον χρήστη οπτικοποιήσεις παρέχουν στους χρήστες μία συνοπτική εικόνα των σχετικών βαθμολογιών των κινδύνων σε όλο το χαρτοφυλάκιο της τεχνητής νοημοσύνης, με δυνατότητες ανάπτυξης για την αποκάλυψη περισσότερων λεπτομερειών.

Ένα βασικό πλεονέκτημα της πλατφόρμας Trusted AI της ΕΥ είναι η δυνατότητα να διεξάγει δυναμική διαχείριση κινδύνων, προβλέποντας το αντίκτυπο στους κινδύνους από τη διαφοροποίηση ενός στοιχείου της τεχνητής νοημοσύνης – όπως λειτουργικές δυνατότητες ενός AI agent ή ο βαθμός αυτονομίας του.