ΟΙ ΕΣΦΑΛΜΕΝΕΣ ΕΠΙΛΟΓΕΣ ΤΟΥ Κου ΔΕΝΔΙΑ ΩΣ ΥΠΟΥΡΓΟΥ ΕΘΝΙΚΗΣ ΑΜΥΝΑΣ
Τετάρτη 22 Μαΐου 2024
Τρίτη 21 Μαΐου 2024
2ο ΜΑΘΗΜΑ ΣΤΟ “PROMPT ENGINEERING” ΓΙΑ “ARTIFICIAL
INTELLIGENCE” MODELS
Στην άμεση μηχανική, ιδιαίτερα στο πλαίσιο της εργασίας με
μοντέλα γλώσσας όπως αυτά του OpenAI, η "θερμοκρασία (temperature)" είναι μια παράμετρος
που ελέγχει την τυχαιότητα των όσων παράγονται από το μοντέλο.
1.
Ρύθμιση θερμοκρασίας: Η παράμετρος θερμοκρασίας
κυμαίνεται συνήθως από 0 έως 1, αν και τεχνικά μπορεί να αυξηθεί πάνω από 1. Οι
χαμηλότερες τιμές έχουν ως αποτέλεσμα πιο ντετερμινιστικά και εστιασμένα
αποτελέσματα, ενώ οι υψηλότερες τιμές κάνουν την εξαγόμενα πιο τυχαία και
διαφορετικά.
α) Επίδραση
στα αποτελέσματα:
·
Χαμηλή τιμή
θερμοκρασίας (Low Temperature) (π.χ. 0,2): Σε αυτές τις τιμές, οι
αποκρίσεις του μοντέλου θα είναι πιο ντετερμινιστικές και επαναλαμβανόμενες. Τείνει
να επιλέγει τις λέξεις με την υψηλότερη πιθανότητα, οδηγώντας σε συντηρητική
και προβλέψιμη δημιουργία κειμένου. Αυτό είναι χρήσιμο όταν χρειαζόμαστε
ακριβείς και αξιόπιστες εξόδους.
·
Μέση τιμή
θερμοκρασίας (Medium Temperature) (π.χ. 0,7): Στις τιμές αυτές το μοντέλο
ισορροπεί μεταξύ δημιουργικότητας και αξιοπιστίας. Εισάγει κάποιο επίπεδο
τυχαιότητας, επιτρέποντας ένα μείγμα προβλεψιμότητας και ποικιλομορφίας.
·
Υψηλή
θερμοκρασία (High Temperature) (π.χ. 1,0 ή υψηλότερη): Οι απαντήσεις του
μοντέλου γίνονται πιο τυχαίες και δημιουργικές. Θα πάρει περισσότερους
κινδύνους στην επιλογή λέξεων, κάτι που μπορεί να οδηγήσει σε απροσδόκητα και
ποικίλα αποτελέσματα. Αυτό μπορεί να είναι χρήσιμο για δημιουργική γραφή ή
καταιγισμό ιδεών (brain storming),
αλλά μπορεί επίσης να οδηγήσει σε λιγότερο συνεκτικές ή εκτός θέματος
απαντήσεις.
β) Τεχνική πτυχή (Technical Aspect): Μαθηματικά, η θερμοκρασία χρησιμοποιείται για την κλίμακα των logits (τις ακατέργαστες προβλέψεις του μοντέλου πριν μετατραπούν σε πιθανότητες) πριν από την εφαρμογή της συνάρτησης softmax. Οι χαμηλότερες θερμοκρασίες κάνουν την κατανομή πιθανοτήτων πιο έντονη (πιο κορυφαία), ενώ οι υψηλότερες θερμοκρασίες την κάνουν πιο επίπεδη (πιο απλωμένη). Η συνάρτηση softmax είναι μια μαθηματική συνάρτηση που μετατρέπει ένα διάνυσμα πραγματικών αριθμών σε κατανομή πιθανότητας.
·
Τι είναι
το Logit: Η συνάρτηση logit είναι μια κρίσιμη έννοια στη στατιστική και τη
μηχανική μάθησ. Χρησιμεύει ως συνάρτηση σύνδεσης που αντιστοιχίζει πιθανότητες
που κυμαίνονται μεταξύ 0 και 1 σε πραγματικούς αριθμούς σε ολόκληρη την
αριθμητική κλίμακα, η οποία μπορεί στη συνέχεια να χρησιμοποιηθεί για να
εκφράσει γραμμικές σχέσεις.
·
Η
συνάρτηση logit ορίζεται μαθηματικά ως ο λογάριθμος των πιθανοτήτων p να συμβεί
ένα συγκεκριμένο γεγονός:
Logit(p) = log(p / (1 -
p))
Εδώ, το p αντιπροσωπεύει την πιθανότητα του γεγονότος και το log
υποδηλώνει τον φυσικό λογάριθμο.
Οι πιθανότητες είναι ο λόγος της
πιθανότητας του γεγονότος προς την πιθανότητα να μην συμβεί το γεγονός.
Όταν p είναι η πιθανότητα επιτυχίας, 1 - p είναι η πιθανότητα αποτυχίας και οι
πιθανότητες είναι ένας τρόπος σύγκρισης της πιθανότητας αυτών των δύο
αποτελεσμάτων.
·
Ερμηνεία
των τιμών Logit: Οι τιμές Logit
μπορούν να ερμηνευθούν με όρους πιθανοτήτων. Οι θετικές τιμές logit υποδεικνύουν
πιθανότητες μεγαλύτερες από 0,5 και επομένως πιθανότητες που ευνοούν να συμβεί το
γεγονός, ενώ οι αρνητικές τιμές δείχνουν πιθανότητες μικρότερες από 0,5, με
πιθανότητες λιγότερες από τις μισές για να συμβεί το γεγονότος.
γ) Περιπτώσεις χρήσης:
·
Δημιουργική
Γραφή (Creative Writing): Υψηλότερες θερμοκρασίες για την ενίσχυση της
δημιουργικότητας και της ποικιλίας.
·
Ανάκτηση
πραγματικών πληροφοριών (Factual Information Retrieval): Χαμηλότερες
θερμοκρασίες για εξασφάλιση ακρίβειας και συνέπειας.
·
Πειραματισμός
και Πρωτοτυποποίηση (Experimentation and Prototyping): Ρύθμιση θερμοκρασίας
για την εύρεση της βέλτιστης ισορροπίας για μια συγκεκριμένη εργασία.
δ) Ρύθμιση της Θερμοκρασίας
Προσαρμόζοντας τη θερμοκρασία, οι άμεσοι μηχανικοί μπορούν
να προσαρμόσουν τη συμπεριφορά των μοντέλων γλώσσας ώστε να ανταποκρίνονται
καλύτερα στις συγκεκριμένες ανάγκες τους, είτε πρόκειται για τη δημιουργία
συνεπών αποκρίσεων είτε για την προώθηση της δημιουργικότητας και της
εξερεύνησης στη παραγωγή κειμένου.
Δευτέρα 20 Μαΐου 2024
PROMPT ENGINEERING & ΑΙ
ΤΑΧΕΑ ΜΑΘΗΜΑΤΑ ΑΠΟΤΕΛΕΣΜΑΤΙΚΗΣ ΧΡΗΣΗΣ ΤΟΥ “ARTIFICIAL INTELLIGENCE”Είχα την τύχη να ασχοληθώ με το ΑΙ (Artificial Intelligence) από το 2006 που υπηρετούσα στο ΝΑΤΟ και είχε ξεκινήσει η εφαρμογή για υποστήριξη του “Decision Making Wall” που είχε εγκατασταθεί στην Στουτγάρδη στην “US Command” και δοκιμαζόταν από το ΝΑΤΟ.
Είχε δημιουργηθεί μία επιτροπή (στην οποία μετείχα) όπου εξέταζε αφενός την εισαγωγή πραγματικών δεδομένων στο μοντέλο και την ικανότητα του να παράγει συνθετική σκέψη και να προτείνει πιθανολογικά επιλογές, με βάση το πλαίσιο αναφοράς και την αξιολόγηση των πληροφοριών που δεχόταν.
Σήμερα τα πράγματα έχουν προχωρήσει πολύ και μάλιστα το ΑΙ απελευθερώθηκε από την στρατιωτική κυρίως χρήση κι έχει ευρεία και συνεχώς αυξανόμενη εφαρμογή στον ιδιωτικό τομέα (για όσους δεν το φοβούνται και δεν κυνηγούν τις μάγισσες του Σάλεμ όταν ακούν γι αυτό).
PROMPT ENGINEERING
Εάν όμως θέλουμε να κάνουμε την βέλτιστη αξιοποίηση των μοντέλων ΑΙ που διατίθενται σήμερα ελεύθερα (είτε με συνδρομή για συγκεκριμένους σκοπούς και χρήση) θα πρέπει να καταλάβουμε ότι όσο καλύτερα είναι τα εισαγόμενα και οι ερωτήσεις μας σε κάθε μοντέλο ΑΙ, τόσο πιο ωφέλιμες θα είναι οι απαντήσεις του.
Και η ικανότητα αυτή ονομάζεται “Prompt Engineering”, μηχανική υπόδειξης/προτροπής του ΑΙ από τον χρήστη, ώστε το μοντέλο να κινηθεί εντός του τεθέντος πλαισίου και να δώσει απαντήσεις με συνέπεια, συνάφεια, σχετικότητα και αξιοπιστία.
Eπειδή η γνώση δεν φυλακίζεται και οφείλουμε να δημιουργούμε γνωσιακές ανταλλαγές κλίμακας, ότι έχω μάθει για αυτό θα το δημοσιεύω σε διαδοχικές αναρτήσεις-οδηγίες, προκειμένου να βοηθήσω όσους ενδιαφέρονται να γίνουν αποτελεσματικοί χρήστες του ΑΙ χωρίς δαιμονοποιήσεις και φοβίες.
A. ΠΕΔΙΟ ΓΝΩΣΗΣ ΠΡΩΤΟ
PRIMING
Η προετοιμασία (priming) στο πλαίσιο της εργασίας με γλωσσικά μοντέλα, όπως αυτά που αναπτύχθηκαν από το OpenAI, αναφέρεται στην τεχνική παροχής ενός αρχικού πλαισίου ή ενός συνόλου οδηγιών για την καθοδήγηση της διαδικασίας δημιουργίας απαντητικού κειμένου από το μοντέλο. Ακολουθεί μια λεπτομερής εξήγηση του priming:
1. Ορισμός: Η προετοιμασία (priming) περιλαμβάνει την τροφοδοσία του μοντέλου με συγκεκριμένο κείμενο παρακίνησης/προτροπής (the prompt) στην αρχή της αλληλεπίδρασης. Αυτό το αρχικό κείμενο θέτει τη συλλογιστική βάση για το μοντέλο, βοηθώντας το ΑΙ να κατανοήσει το επιθυμητό πλαίσιο, το στυλ, τον τόνο ή το θέμα για το επόμενο αποτέλεσμα (εξαγόμενο).
2. Σκοπός:
α) Ρύθμιση Πλαισίου (Context Setting): Η προετοιμασία (priming) παρέχει το πλαίσιο που χρησιμοποιεί το μοντέλο για να δημιουργήσει σχετικές, συναφείς και συνεκτικές αποκρίσεις.
β) Καθοδήγηση (Guidance): Καθοδηγεί το μοντέλο προς την παραγωγή προϊόντος που ευθυγραμμίζεται με τις προσδοκίες των χρηστών ή τις συγκεκριμένες απαιτήσεις.
γ) Συνέπεια (Consistency): Διασφαλίζει ότι το κείμενο που δημιουργείται παραμένει συνεπές με το επιθυμητό θέμα ή στυλ.
3. Πως δουλεύει
α) Αρχικό κείμενο (Initial Text): Εισάγουμε μια προκαταρτική ερώτηση, η οποία μπορεί να είναι μια ερώτηση αλλά και μια δήλωση, μια μερική πρόταση ή ένα λεπτομερές σύνολο οδηγιών.
β) Μοντέλο απόκρισης (Model Response): Το μοντέλο επεξεργάζεται αυτήν την εισαγόμενη πρόταση/δήλωση/ερώτηση προτροπής και δημιουργεί κείμενο που συμμορφώνεται λογικά στο πλαίσιο που του θέσαμε ή στα συμφραζόμενα από την παρεχόμενη προτροπή.
4. Παραδείγματα:
α) Ερώτηση-Απάντηση (Question-Answering): Εισάγουμε μια ερώτηση για να λάβουμε μια άμεση απάντηση (π.χ., "Ποια είναι τα οφέλη των ανανεώσιμων πηγών ενέργειας;").
β) Αφήγηση(Storytelling): Παρέχουμε την αρχή μιας ιστορίας (μαζί με τα κυρίαρχα σημεία που θέλουμε να τονίσει και το πλαίσιο αναφοράς της ιστορίας) και αφήνουμε το μοντέλο να συνεχίσει την αφήγηση (π.χ. "Μια φορά κι έναν καιρό σε ένα μακρινό βασίλειο υπήρχε ένα ιππότης...").
γ) Δημιουργία κώδικα (Code Generation): Παρέχουμε οδηγίες ή απόσπασμα κώδικα για να ολοκληρώσει, συνθέσει είτε δημιουργήσει το επόμενου τμήμα του κώδικα. Η δημιουργία κώδικα είναι η χρήση ενός αλγορίθμου τεχνητής νοημοσύνης για τη παραγωγή κώδικα προγραμματισμού από μια φυσική γλώσσα ή άλλες μορφές εισόδου. Αυτό μπορεί να περιλαμβάνει τη δημιουργία ολοκληρωμένων προγραμμάτων, την ολοκλήρωση μερικώς γραμμένων κωδίκων ή την αυτόματη διόρθωση σφαλμάτων.
(1) Πώς Λειτουργεί ο Κώδικας;
• Εντολή/Υπόδειξη (Prompt): Παρέχουμε μια εντολή/υπόδειξη, η οποία μπορεί να είναι οδηγίες σε φυσική γλώσσα, μέρος ενός κώδικα ή συγκεκριμένες οδηγίες για το τι πρέπει να κάνει ο κώδικας.
• Επεξεργασία από το Μοντέλο: Το μοντέλο γλώσσας επεξεργάζεται μόνο του την εντολή/υποδειξη και, βάσει της εκπαίδευσής του, παράγει τον κατάλληλο κώδικα που αντιστοιχεί στην εντολή αυτή.
• Παραγωγή Κώδικα: Το μοντέλο επιστρέφει τον παραγόμενο κώδικα, ο οποίος μπορεί να είναι ένα νέο τμήμα κώδικα, η ολοκλήρωση ενός ήδη υπάρχοντος κώδικα ή ακόμη και προτάσεις για βελτιώσεις και διορθώσεις.
(2) Παραδείγματα Χρήσης: «Ολοκλήρωσε τον Κώδικα»:
• Είσοδος/Εντολή/Υπόδειξη: "def calculate_factorial(n):"
• Έξοδος: Το μοντέλο συμπληρώνει τον κώδικα για να υπολογίζει το παραγοντικό ενός αριθμού.
δ) Τεχνικές Χρήσης:
• Σαφείς οδηγίες (Explicit Instructions): Καθοδηγούμε απευθείας στο μοντέλο τι θέλουμε να κάνει (π.χ. "Γράψτε ένα ποίημα τεσσάρων στροφών για τον ωκεανό με 2 παρομοιώσεις, 3 συνεκδοχές και 2 μεταφορές.").
• Παραδείγματα και Μοτίβα (Examples and Patterns): Παρέχουμε παραδειγμάτων για τη δημιουργία ενός μοτίβου που πρέπει να ακολουθεί το μοντέλο (π.χ. ανταλλάσσουμε πολλά ζευγάρια συγκεκριμένων ερωτήσεων/Απαντήσεων-Q&A για να το προετοιμάσουμε πριν κάνουμε την ερώτηση που θέλουμε να απαντήσει).
ε) Οφέλη:
• Βελτιωμένη συνάφεια (Improved Relevance) : Διασφαλίζει ότι η έξοδος είναι σχετική με τις ανάγκες του χρήστη.
• Ενισχυμένος έλεγχος (Enhanced Control): Παρέχει στους χρήστες περισσότερο έλεγχο ως προς τον τύπο και την ποιότητα του περιεχομένου που δημιουργείται.
• Αυξημένη ακρίβεια (Increased Accuracy): Βοηθά στην παραγωγή πιο ακριβών και κατάλληλων απαντήσεων. με βάση το πλαίσιο που του θέσαμε και τα συμφραζόμενα.
στ) Περιπτώσεις χρήσης:
• Δημιουργική Γραφή (Creative Writing): Του παρέχουμε συγκεκριμένα θέματα ή είδη για τη δημιουργία ιστοριών, ποιημάτων ή σεναρίων.
• Εκπαιδευτικά εργαλεία(Educational Tools): Παρέχουμε το πλαίσιο για επεξηγήσεις, περιλήψεις ή συνεδρίες διδασκαλίας.
• Υποστήριξη πελατών (Customer Support): Κάνουμε χρήση προκαθορισμένων μηνυμάτων για να βοηθήσουμε στη δημιουργία απαντήσεων σε κοινά ερωτήματα πελατών.
Κυριακή 19 Μαΐου 2024
Η ΕΠΙΚΙΝΔΥΝΗ ΟΜΟΓΕΝΟΠΟΙΗΣΗ ΤΗΣ ΟΙΚΟΝΟΜΙΚΗΣ ΣΚΕΨΗΣ (ΚΑΙ ΠΟΛΙΤΙΚΗΣ) ΑΠΟ “ΟΛΟΥΣ” ΤΟΥ ΑΡΧΗΓΟΥΣ ΤΩΝ ΚΟΜΜΑΤΩΝ ΕΞΟΥΣΙΑΣ (ΠΑΛΙΟΥΣ ΚΑΙ ΝΕΟΥΣ)
Τετάρτη 15 Μαΐου 2024
ΘΕΤΙΚΗ Η ΣΤΑΣΗ ΤΗΣ ΚΥΒΕΡΝΗΣΗΣ ΠΟΥ ΨΗΦΙΣΕ ΤΗΝ ΑΠΟΦΑΣΗ ΤΗΣ ΓΣ/ΟΗΕ ΓΙΑ ΤΗΝ ΠΑΛΑΙΣΤΙΝΗ
ΤΟ ΚΑΡΟΤΟ ΚΑΙ ΤΟ ΜΑΣΤΙΓΙΟ ΑΠΟ ΠΛΕΥΡΑΣ ΤΟΥΡΚΙΑΣ ΓΙΑ ΝΑ ΕΛΕΓΞΕΙ ΤΗΝ ΣΥΜΠΕΡΙΦΟΡΑ ΜΑΣ