The PINNACLE Project has successfully concluded!
The Cyprus Center for Trustworthy AI (CyCAT) at the Open University of Cyprus has successfully concluded its PINNACLE project (Public Engagement in AI Evaluation for Education and System Benchmarking), carried out with the generous support of the Cyprus Research and Innovation Foundation (BRIDGE2HORIZON/0823E/0203). Over 18 months, the funding (150.000 Euro) enabled our team to conduct initial scientific research and to coordinate a proposal to extend the work through Horizon Europe.
With the continued emergence of Generative AI and Foundation Models, new AI-enabled products and services enter the market every day. Google’s AI-generated answers to our search queries, or the recommendation systems that quietly decide what appears next in our Netflix and Spotify feeds, are just some of the ways in which we now interact with AI in “everyday” contexts, often without even realising it. Yet as these systems become ever more embedded in daily life, most of us have little means of judging whether they treat us fairly, safeguard our privacy, or behave as they should. PINNACLE set out to address precisely this gap by placing the people who use AI at the centre of evaluating it.
Throughout the project, our team developed innovative mechanisms by which members of the public can participate actively in discovering and evaluating AI-enabled products and services, in the spirit of the EU’s vision for Trustworthy AI. According to this vision, which underpins the EU AI Act, to be trustworthy, AI systems must respect a particular set of principles, such as being technically robust, fair, non-discriminatory, and respectful of users’ privacy. The PINNACLE methodology enables members of the public to have their say in evaluating the extent to which the AI-enabled systems they encounter are truly “trustworthy,” in a systematic way that can be documented.
In this spirit, we offered the online course “AI in Everyday Life” twice, using it to test two complementary approaches to public AI evaluation. In the first run, participants adopted a bottom-up approach, reporting each week on an AI application they had genuinely used and assessing its adherence to key ethical principles. In the second, they took a top-down approach, each selecting a single chatbot (ChatGPT, Gemini, or Copilot) to use throughout the course and following guided weekly tasks to evaluate it. Across the two runs, more than 500 members of the Cypriot and Greek communities took part, and the project successfully collected user-sourced evaluations of AI across both groups.
Beyond the course, PINNACLE laid down a conceptual framework for user-centred AI evaluation, produced nine peer-reviewed scientific publications, and coordinated a Horizon Europe proposal that scored well above threshold and will be revised for a future resubmission. Together, these outcomes have strengthened the team’s participation in Horizon Europe and expanded its network of collaborators across Europe.
Ελληνικά
Το Κυπριακό Κέντρο για Αξιόπιστη Τεχνητή Νοημοσύνη (CyCAT) στο Ανοικτό Πανεπιστήμιο Κύπρου ολοκλήρωσε με επιτυχία το έργο PINNACLE (Δημόσια Συμμετοχή στην Αξιολόγηση της Τεχνητής Νοημοσύνης για την Εκπαίδευση και τη Συγκριτική Αξιολόγηση Συστημάτων), το οποίο υλοποιήθηκε με τη υποστήριξη του Ιδρύματος Έρευνας και Καινοτομίας Κύπρου (BRIDGE2HORIZON/0823E/0203). Στη διάρκεια 18 μηνών, η χρηματοδότηση (150.000 ευρώ) επέτρεψε στην ομάδα μας να πραγματοποιήσει ερευνητικό έργο και να συντονίσει μια πρόταση για την επέκταση της εργασίας μέσω του προγράμματος Horizon Europe.
Με τη συνεχιζόμενη εμφάνιση της παραγωγικής τεχνητής νοημοσύνης και των θεμελιωδών μοντέλων, νέα προϊόντα και υπηρεσίες με δυνατότητες τεχνητής νοημοσύνης εισέρχονται στην αγορά καθημερινά. Οι απαντήσεις που παράγει η τεχνητή νοημοσύνη της Google στα ερωτήματα αναζήτησής μας, ή τα συστήματα συστάσεων που αθόρυβα αποφασίζουν τι θα εμφανιστεί στη συνέχεια στο Netflix και το Spotify, αποτελούν μερικούς μόνο από τους τρόπους με τους οποίους αλληλεπιδρούμε πλέον με την τεχνητή νοημοσύνη στην καθημερινότητα μας, συχνά χωρίς καν να το αντιλαμβανόμαστε. Ωστόσο, καθώς τα συστήματα αυτά ενσωματώνονται ολοένα και περισσότερο στην καθημερινή μας ζωή, οι περισσότεροι από εμάς διαθέτουμε ελάχιστα μέσα για να κρίνουμε αν μας μεταχειρίζονται δίκαια, αν προστατεύουν την ιδιωτικότητά μας ή αν συμπεριφέρονται όπως θα έπρεπε. Το PINNACLE στόχευσε ακριβώς στην κάλυψη αυτού του κενού, τοποθετώντας τους ανθρώπους που χρησιμοποιούν την τεχνητή νοημοσύνη στο επίκεντρο της αξιολόγησής της.
Καθ’ όλη τη διάρκεια του έργου, η ομάδα μας ανέπτυξε καινοτόμους μηχανισμούς μέσω των οποίων τα μέλη του κοινού μπορούν να συμμετέχουν ενεργά στην ανακάλυψη και αξιολόγηση προϊόντων και υπηρεσιών που βασίζονται στην τεχνητή νοημοσύνη, σύμφωνα με το όραμα της ΕΕ για Αξιόπιστη ΤΝ. Σύμφωνα με αυτό το όραμα, το οποίο αποτελεί τη βάση του Νόμου για την Τεχνητή Νοημοσύνη της ΕΕ (EU AI Act), για να θεωρηθούν «αξιόπιστα», τα συστήματα ΤΝ πρέπει να σέβονται ένα συγκεκριμένο σύνολο αρχών, όπως η τεχνική αξιοπιστία, η δικαιοσύνη, η μη διάκριση και ο σεβασμός στην ιδιωτικότητα των χρηστών. Η μεθοδολογία του PINNACLE δίνει τη δυνατότητα στα μέλη του κοινού να εκφράσουν τη γνώμη τους σχετικά με το κατά πόσο τα συστήματα ΤΝ που συναντούν είναι πραγματικά «αξιόπιστα», με έναν συστηματικό και τεκμηριωμένο τρόπο.
Σε αυτό το πνεύμα, προσφέραμε το διαδικτυακό μάθημα «Η Τεχνητή Νοημοσύνη στην Καθημερινή Ζωή» δύο φορές, χρησιμοποιώντας το για να δοκιμάσουμε δύο συμπληρωματικές προσεγγίσεις δημόσιας αξιολόγησης της ΤΝ. Στην πρώτη διεξαγωγή, οι συμμετέχοντες υιοθέτησαν μια προσέγγιση «από τη κάτω προς τα πάνω» (bottom-up), αναφέροντας κάθε εβδομάδα μια εφαρμογή τεχνητής νοημοσύνης που είχαν πραγματικά χρησιμοποιήσει και αξιολογώντας τη συμμόρφωσή της με βασικές ηθικές αρχές. Στη δεύτερη διεξαγωγή, ακολούθησαν μια προσέγγιση «από πάνω προς τα κάτω» (top-down), επιλέγοντας ο καθένας ένα chatbot (ChatGPT, Gemini ή Copilot) που χρησιμοποίησαν καθ’όλη την διάρκεια του μαθήματος και ακολουθώντας καθοδηγούμενες εβδομαδιαίες εργασίες για την αξιολόγησή του. Στις δύο διεξαγωγές συνολικά συμμετείχαν περισσότερα από 500 μέλη της κυπριακής και της ελληνικής κοινότητας, και το έργο συγκέντρωσε με επιτυχία αξιολογήσεις της τεχνητής νοημοσύνης προερχόμενες από τους ίδιους τους χρήστες, και στις δύο ομάδες.
Πέρα από το μάθημα, το PINNACLE διαμόρφωσε ένα εννοιολογικό πλαίσιο για την αξιολόγηση της ΤΝ με επίκεντρο τον χρήστη, παρήγαγε εννέα επιστημονικές δημοσιεύσεις σε περιοδικά και συνέδρια, και συντόνισε μια πρόταση για το Horizon Europe, η οποία έλαβε βαθμολογία αρκετά πάνω από το όριο και θα αναθεωρηθεί για μελλοντική επανυποβολή. Συνολικά, τα αποτελέσματα αυτά ενίσχυσαν τη συμμετοχή της ομάδας στο Horizon Europe και διεύρυναν το δίκτυο συνεργατών της σε ολόκληρη την Ευρώπη.
31 July 2026 12:00 am (GMT)
Nicosia, Cyprus