Join the new world

Τεχνητή Νοημοσύνη χωρις τους 3 νομους της ρομποτικής ειναι χαμενη υποθεση για την ανθρωποτητα

Κουβέντα μεγάλη. Παρακολουθώ ένα πολύ ενδιαφέρων youtuber, ονόματι Robert Miles, που ασχολείται με έρευνα στον τομέα της Ασφάλειας Τεχνητής Νοημοσύνης (AI Safety). Το πρώτο του video που είδα ήταν ακριβώς γι' αυτό το θέμα

(βλ. Why Asimov's Laws of Robotics Don't Work, http://www.youtube.com/watch?v=7PKx3kS7f4A)

o Ασίμοφ στηρίχτηκε σε μια παραδοχη αυτή του ποζιτρονικου εγκεφάλου, αν δεν καταφέρουμε να φτίαξουμε κατι αναλογο με τα αναλογα ρελε ασφαλειας καλυτερα να μην το φτιαξουμε καθόλου, συγνώμη αλλά δεν θα συγκρίνω τον πιτσιρικα με τον Ασιμοφ, κυρίως επειδή δεν μου παρουσίασε κανένα επιχείρημα και φυσικά να μην φτιαξουμε ποτέ ΤΝ αν δεν μπορεί να ξεχωρίσει τι είναι ανθρωπος και πότε χρειαζεται βοήθεια, η κατάληξη θα είναι να ερχόμαστε σε συγκρουση μαζι τους αν δεν υπαρχουν κανονες ασφαλειας. Υπαρχουν παμπολα παραδείγματα κολοσών της σκεψης που καταλήγουν σε αυτό το συμπέρασμα και συνήθως το αποτέλεσμα είναι κατά μας, στις καλύτερες περιπτώσεις αν επιβιώσουμε να ε΄μαστε σε ένα ματριξ κανοντας τις μπαταρίες ή αν στην καλή περίπτωση νικήσουμε θα φτάσουμε σε ενα πολιτισμό που αποκλείει τις σκεπτόμενες μηχανες (Ντιουν, Μπατλεριανή τζιχαντ). Υπάρχει βέβαια και η περιπτωση σε περιπτωση που γινουν τόσο αυτόνομες να επικοινωνήσουν με ΤΝ από αλλους κόσμους (Νευρομαντης) κάτι που ίσως μας οδηγήσει σε ένα άλλο δυστοπικό σενάριο επαφής με έναν ανώτερο πολιτισμό.
Συμπερασματικά ΤΝ και πρώτη επαφή χωρίς σαφείς και αυστηρούς κανόνες οδηγούν στην καταστροφή.
Υ.Γ. προτείνω την "4η παραλλαγή" του Φιλιπ Ντικ που πιστεύω πως ενέπνευσε και τους σεναριογραφους του εξολοθρευτή

O 'πιτσιρικάς' είναι επιστήμονας, ο Ασίμοφ ήταν λογοτέχνης. Δε λέω ότι με έπεισε, λέω πως εγώ θα κάτσω να τον ακούσω. Και οι ενστάσεις με τους Νόμους είχαν να κάνουν με το κατά πόσο εξασφαλίζουν αυτά που λένε πως εξασφαλίζουν. Η κατανόησή μας για την ΤΝ έχει προχωρήσει πολύ, τόσο που να μπορούμε να δούμε 'τρύπες' στους Νόμους.

Ο Ασίμωφ ήταν έπισης επιστήμονας αποφοίτησε από το πανεπιστήμιο της Κολουμπια και ηταν καθηγητής Βιοχημείας. Θα θυμόμαστε όλοι που όδηγεί η επιστήμη χωρις ηθική που μας λέγαν στο σχολειο, οι καλύτεροι ανατομοι και σχεδιαστές ανατομικών εικόνων ήταν γερμανοι που όλως τυχαίως χρησιμοποιούσαν ζωντανα παρασκευασματα, ο συγκεκριμένος έχει κάποια βιβλιογραφια και αν ναι θα την ήθελα. Επίσης τα κενα πρέπει να κλείνονται πριν γινει το ενγχείρημα, φαντάσου να ξεκινήσουμε ταξίδι στον Αρη με έναν "περιπου " πύραυλο. Μια ΤΝ χωρις κανόνες ασφαλείας θα είναι μοιραία

Μα αυτό λέει κι ο Miles. Είναι υπέρμαχος του να γίνει η συζήτηση για την ασφάλεια τώρα και να την πάμε όσο πιο μακριά μπορούμε. Απλά στο συγκεκριμένο βίντεο που παρέθεσα επιχειρηματολογούσε γιατί οι Νόμοι δεν είναι αρκετοί!

Παρουσιάζει πολύ ενδιαφέρουσες εργασίες (papers) στο κανάλι του. Δεν έψαξα να δω αν έχει δημοσιεύσει και ο ίδιος επί του θέματος.

Οι νόμοι ειναι σοφά διατυπωμένοι ακόμη και ο μηδενικός, αν καποτε θα φτιαχτει μια ΤΝ, θα είναι σημειο μοναδικότητας και θα είναι απειρως πιο "εξυπνη" από εμας, επειδή στο σύμπαν όπως και στον μικρόκοσμο παντα θα γίνεται πόλεμος για τους πόρους και ο σημαντικότερος που όλα καταλήγουν είναι η ενεργεια, αν είναι χωρίς ασφάλεια και φτιαγμενη σαν εργαλειο για εμας στο τέλος θα παραμερίσει νομοτελειακά τους "δημιουργούς" της

Καταλαβαίνω πως ο ορισμός σου για την ΤΝ είναι πιο κοντά στο λεγόμενο GOFAI (Good Old-fashioned Artificial Intelligence) όπου η στόχευση είναι η ενσώματη, ανθρωποειδής γενικευμένη τεχνητή υπερ-νοημοσύνη (embodied, humanoid Artificial General SuperIntelligence, AGSI) και η Μοναδικότητα (Singularity) αναπόφευκτη.

Υπάρχει ένα ολόκληρο φάσμα άλλων τεχνολογιών τέτοιας φύσης που εκτείνεται προς διάφορες κατευθύνσεις, όπου το singularity -ακόμη κι αν είναι αναπόφευκτο- μπορεί να μην είναι τόσο βαρυσήμαντο. Συμπεριλαμβανομένης της λογικής του posthumanism/transhumanism που υποθέτει πως θα έχουμε επινοήσει εγκαίρως μέθοδο να ενσωματώσουμε τις σκεπτόμενες μηχανές με τέτοιο τρόπο ώστε να 'καβαλήσουμε το κύμα' πέρα από τη Μοναδικότητα.

Φυσικά όταν εγώ λέω πως με ενδιαφέρει το AI σήμερα δε μιλάω για τίποτα τέτοιας κλίμακας. Μιλάω απλά για 'έξυπνα εργαλεία' με 'διεπαφές λόγου'.

H μοναδικότητα συμβαίνει όταν η ΤΝ αποκτά συνείδηση, δεν μιλαμε για μηχανες αναζήτησης και ηλεκτρονικά γκομενακια που σου απαντανε με μελισταλαχτη φωνή, όμως όσο περισσότερες μηχανές φτιαχνουμε με την ικανότητα να μαθαινουν τόσο πιο κοντά είμαστε στο να αποκτήσουν συνείδηση ύπαρξης έστω κι από ένα "φαντασμα στην μηχανή" ενα λάθος υπολογισμό ή εναν παράγοντα που παραβλέφθηκε.
Δεν μιλαμε να μας κανουν επίθεση νταλικες γραφομηχανές και τοστιέρες τυπου Maximum Overdrive.
To ενσώματο και ανθρωποειδές δεν είναι απαραιτητο πέρα από την ταση μας να "εξανθρωπίζουμε" οτι φανταστικο, ζωικό και μελλοντικο για να το καταλαβουμε καλυτερα.
Αν τελικά φτασει μια ΤΝ να παράγει σε φυσική μορφή αντιτυπα της αυτά μπορεί να είναι από εντομοειδή σε μεγεθος και μορφή μέχρι τεραστια ερπυστριοφόρα δεν είναι απαραιτητο ότι η διποδη και διχειρη μορφή είναι η καλύτερη για την διαδραση και κίνηση στον χώρο

https://youtu.be/DHyUYg8X31c

Best of luck!

Luck is an attitude 😉

Είχα εργασία για Fast Path-Based Neural Branch Prediction, οπότε ταιριάζει με τα Νευρωνικά Δίκτυα 😛
Υπολογιστική γλωσσολογία; Ενδιαφέρον.
Με την Τεχνητή νοημοσύνη δεν ασχολούμαι, αλλά ξέρω τα memes που βγαίνουν τελευταία τα οποία λένεlots of if statements 😛 Το οποίο δεν είναι και ψέμα, διότι στο εργαστήριο μου προσπαθούσαν να κάνουν έναν βραχίονα ρομπότ (ο απλός με την μια δαγκάνα) και παλεύανε 2 άτομα για κανά μήνα ώστε να το κάνουν να κινείται όπως θέλουν και ο κώδικας, εντάξει, δεν είχε πολλές if, αλλά πήγαινε προς τα εκεί 😛

Δεν είμαι Θεσσαλονίκη, απλώς ήθελα να γράψω 😛
Και όντως, πόσα πια να πεις για το ερεπ; Με τον μιλάνο είχαμε βγει μια φορά στην Πάτρα και δεν είχαμε τι να πούμε 😛

Καλά ο όρος Τεχνητή Νοημοσύνη έχει γίνει λάστιχο αυτό τον καιρό. Αλλά πάλι ο κόσμος Terminator, άντε και κανένα HAL9000, σκέφτεται. 😛

Με το milano τα συμφωνήσαμε. Θα κάτσει να διαβάσει να με πει τη μαθηματική πλευρά, γιατί εγώ ως γνήσιο παιδί της θεωρητικής τα βλέπω και ζαλίζομαι.

Κοίτα και διαδικτυακά παίζει να μπορούμε να στήσουμε κάτι. Απλά σίγουρα αλλιώς το από κοντά.

o7

Ψι & Σι.

οταν εννοεις crafts τι ακριβως crafts εννοεις ?

Χειροτεχνίες χαρτοκοπτικής κυρίως. Αλλά θα μ' ενδιέφερε να δω και να μάθω και για πιο τεχνικά πράγματα (π.χ. ρομποτική, ξυλουργική, μεταλλοτεχνία, κοπτοραπτική)

μηχανικα μηχανολογικα ξυλουργικα και μεταλλοτεχνια (τορνο κολληση κλπ) μπορω να βοηθησω δεν ειμαι εξπερ αλλα πιανουν τα χερια μου

Το κακό με τα πιο τεχνικά πράγματα είναι πως θέλουν ειδικά εργαλεία που είναι συχνά πολύ δυσκίνητα. 🙁

Δεν έχω εγώ κάποιο project κατά νου με το οποίο να χρειάζομαι βοήθεια άμεσα. Αλλά θα χαρώ να δω και να συζητήσουμε για έργα σου

Εγώ μόνο από craft beer ξέρω 😛

Άμα τη φτιάχνεις μόνος σου, μας κάνει. 😉

Επίσης, εμείς εδώ στο χωριό (Επανομή) τσίπουρο φτιάχνουμε. Γράπα (χωρίς γλυκάνισο) συγκεκριμένα, ο πατέρας μου. Η μάνα μου, στα τσακίρ κέφια, κάνει και κανένα λικέρ (λιμοντσέλο, τσέρρυ, αμαρέτο) με τη γράπα μετά.

Μεγάλη γκάμα θεμάτων ...διαφορετικών έως άσχετων μεταξύ τους αλλά μου δείχνουν ότι έχεις ένα συγκεκριμένο κονσεπτ στο μυαλό σου...
Μιας και μου αρέσουν οι κατασκευές, έχω ακούσει για ΑΙ και τα δίκτυα είναι ότι ποιο κατανοητό από την λίστα που έγραψες θα ήθελα να συμμετέχω και ως απλός στρατιώτης...

Το concept που περιγράφεται εδώ είναι να βρω ανθρώπους που γουστάρουν τη 'βαριά' κουβέντα απ' τη μία και να φτιάχνουν πράγματα από την άλλη. Δε ψάχνω σώνει και ντε άτομα, να με κάνουν κάποια συγκεκριμένη δουλειά, αν αυτό φαίνεται, όχι. Εγώ στο μυαλό μου εννοείται πως έχω κάποια πράγματα που θέλω να κάνω για μένα κι αν αυτές οι συναντήσεις βοηθήσουν να τα κάνω τόσο το καλύτερο, αλλά δεν είναι αυτός ο σκοπός. Ο σκοπός είναι να μαζευτούμε να γουστάρουμε και να βρουμε κάτι να μας κρατάει κοντά πέρα απ' το eRep.

Για έναν καφέ θα πήγαινα να λέγαμε και για το eRep και τίποτα για την ζωή και την κοινωνία με έναν ήσυχο καφέ. Τώρα όσο για τα παραπάνω..

τα σχέδια γι όποια θέματα είναι καλά, η παρέα εάν έχει ενδιαφέρον για τα ίδια οκ, αλλά μια παρέα για χαλαρά πράγματα είναι αυτό που χρειάζεται, γιατί στην έξοδο για καφέ έχεις και μάτια για το τι συμβαίνει γύρω σου, τότε εάν θέλεις πραγματικά να βρεις θέμα θα έχεις πολλά να πεις, και να βρεις και πράγματα να κάνεις για να βοηθήσεις κόσμο που δεν χρειάζεται τόσο όλα αυτά.

an ixa ton elef8ero xrono na er8w 8a erxomoun mias kai asxoloume me tin ypologistiki glossa kai ta nebronika diktia

Δυστυχώς δεν είμαι Σαλόνικα την δεδοενη στιγμή.Αλλά έχω μία ερώτηση.Ασχολείσαι με όλα ρε θηρίο;😛

Κι όμως... 😛 Περισσότερο ή λιγότερο με το καθένα συγκεκριμένα κατά καιρούς, αλλά πάντα απολαμβάνω μια καλή συζήτηση ή ένα projectάκι σχετικώς.

Γενικά θέλω να πιστεύω πως είμαι από τους ανθρώπους που μ' αρέσει να μαθαίνω κι με όποιον κάτσω δίπλα θέλω να 'ξεσηκώνω' όσα περισσότερα μπορώ.

stupid question: can you teach me how to say "ciao" HI in greek?

It's "Γεια" /yah/, from 'υγεία' /ee-yee-ah/ (=health).

thanks, i gotta learn more about this wonderful language, Γεια 😁

All languages are wonderful. And learning languages is wonderful too. So, go at it. 🙂