Νέα για AI και παρεμφερείς τεχνολογίες και εφαρμογές τους

Welcome!

By registering with us, you'll be able to discuss, share and private message with other members of our community.

SignUp Now!
Double post γιατι δε προλαβα το εντιτ και ιμοτζαρε ο νιτρος:

Αποτι φαινεται εβγαλε νεο μανιφεστο ο τσεος της OpenAI με μεγαλεπιβολα σχεδια για την ανθρωποτητα (χωρις προφανως να ελεγχθει απο την ανθρωποτητα καθως ετσι λειτουργουν τα πραματα)


Εχει πολυ ενδιαφερον να το διαβασει κανεις εχοντας στο μυαλο του οτι μιλαει για ολα αυτα ενας τυπος που στοχο του εχει την μεγιστοποιηση των κερδων μιας εταιρειας μεσα απο την προωθηση αμφιλεγομενων μοντελων A(G)I.

Ενα πολυ ωραιο κομματακι κριτικης (και τρολαρισματος στο τελος παρουσιαζοντας το μανιφεστο ως κειμενο της Παλαιας διαθηκης) πανω σε αυτο, απο μια τυπισσα που καλυπτει το χωρο των επιχειρησεων στην ΑΙ:

 
1678436067111.png
1678436177747.png
ΥΠΕΡΟΧΟ κειμενο του Τσομσκι στους New York Times, το βαζω μεσω webarchive για οσους δεν εχουν plugin που αποφευγει τα paywalls (βεβαια υπαρχει και η επιλογη να πληρωσετε συνδρομη :sneaky: )


Ξεκινα με ενα ρητο του Μπορχες που λεει οτι:
το να ζει κανεις σε καιρους μεγαλων κινδυνων και υποσχεσεων, εχει το επακολουθο του να βιωνει και την τραγικοτητα αλλα και την γελοιοτητα τους, καθως σκανε οι επικειμενες αληθειες για τον εαυτο του αλλα και για τον κοσμο :love:


Today our supposedly revolutionary advancements in artificial intelligence are indeed cause for both concern and optimism. Optimism because intelligence is the means by which we solve problems. Concern because we fear that the most popular and fashionable strain of A.I. — machine learning — will degrade our science and debase our ethics by incorporating into our technology a fundamentally flawed conception of language and knowledge.

---
Machine Learning Programs (Σημειωση: Απο Large Language Models) are stuck in a prehuman or nonhuman phase of cognitive evolution.
Their deepest flaw is the absence of the most critical capacity of any intelligence: to say not only what is the case, what was the case and what will be the case — that’s description and prediction — but also what is not the case and what could and could not be the case. Those are the ingredients of explanation, the mark of true intelligence.


Here’s an example. Suppose you are holding an apple in your hand. Now you let the apple go. You observe the result and say, “The apple falls.” That is a description. A prediction might have been the statement “The apple will fall if I open my hand.” Both are valuable, and both can be correct. But an explanation is something more: It includes not only descriptions and predictions but also counterfactual conjectures like “Any such object would fall,” plus the additional clause “because of the force of gravity” or “because of the curvature of space-time” or whatever. That is a causal explanation: “The apple would not have fallen but for the force of gravity.” That is thinking.

---
Whereas humans are limited in the kinds of explanations we can rationally conjecture, machine learning systems can learn both that the earth is flat and that the earth is round. They trade merely in probabilities that change over time.

---

Note, for all the seemingly sophisticated thought and language, the moral indifference born of unintelligence. Here, ChatGPT exhibits something like the banality of evil: plagiarism and apathy and obviation. It summarizes the standard arguments in the literature by a kind of super-autocomplete, refuses to take a stand on anything, pleads not merely ignorance but lack of intelligence and ultimately offers a “just following orders” defense, shifting responsibility to its creators.


---
In short, ChatGPT and its brethren are constitutionally unable to balance creativity with constraint. They either overgenerate (producing both truths and falsehoods, endorsing ethical and unethical decisions alike) or undergenerate (exhibiting noncommitment to any decisions and indifference to consequences). Given the amorality, faux science and linguistic incompetence of these systems, we can only laugh or cry at their popularity.
 
Θεωρητικά θα συμφωνούσα. Και συγκρίνοντας την δική μου λογική με την τεχνητή νοημοσύνη θα έλεγα ότι προφανώς έτσι είναι.

Στην πράξη όμως κοιτώντας για παράδειγμα τι αποφάσεις παίρνουν για την Ουκρανία μένω με δύο ενδεχόμενα. Ή οι «ηγέτες» έχουν αφήσει στο τιμόνι τεχνητή νοημοσύνη, ή εν τέλει δεν υπάρχει διαφορά.
 
Το μονο σιγουρο ειναι οτι εχει ερθει η εποχη που οι content creators του youtube μπορουν να βγαζουν φραγκα φτιαχνοντας κλικμπειτ θεματακια σχετικα με την AGI. 😅
 
Καποτε ειχα δει ενα ντοκιμαντερ για τους επιστημονες που ψαχνουν το διαστημα για εξωγηινους. Βασικα παιζουν δυο φατριες, Αυτοι που ψαχνουν αλλα προτιμουν να μενουν κρυμενοι και αυτοι που στελνουν σηματα στο συμπαν, λες και ειμαστε ναυαγοι. Οι πρωτοι κραζουν τους δευτερους. Εχουν ως παραδειγμα την ιστορια της ανθρωποτητας, οπου οι νικητες εκαναν δουλους τους ηττημενους. Ανεφεραν την αποικιοκρατια οπου οι ανωτεροι τεχνολογικα εκμεταλλευοντουσαν τους μη εξελιγμενους. Ηθικα, οι εξελιγμενοι δεν θα εκαναν κατι τετοιο, για πολλους λογους.
Η Αμερικη και οχι μονο, συνεχιζει να το κανει. Ειναι φυσικη εντολη.
Εαν δεν προλαβουν οι εξωγηινοι, δεν βλεπω τον λογο να μην το κανει η ΑΙ. Επειδη θα εχει την εντολη;
Ειναι πολυ νωρις, ισως, αλλα ειμαστε ηδη σε αγνωστες θαλασσες. Οπως η φωτογραφια που ποσταρα με την μις πυρηνικη ενεργεια, που της εδωσαν δωρο μια καροτσα φορτηγου με ουρανιο.
Για την ωρα, η προτεραιοτητα ειναι το χρημα και αυτο δεν ειχε ποτε, μα ποτε ομως, καλο αποτελεσμα.
 

Update: true to form, Noam Chomsky, loyal reader of this Substack, emailed me moments after it was posted, writing in part. “ If someone comes along with a physical theory that describes things that happen and things that can't possibly happen and can't make any distinction among them, it's no contribution to physics, understanding, theory, anything. That's LLMs.

The high tech plagiarism works as well, or badly, for "languages" that humans cannot acquire (except maybe as puzzles) as for those they can. Therefore they are telling us nothing about language, cognition, acquisition, anything.
Furthermore, since this is a matter of principle, irremediable, if they improve their performance for language it only reveals more clearly their fundamental and irremediable flaws, since by the same token they will improve their performance for impossible systems.”
For elaboration., see my earlier essay Chomsky and GPT-3

 
Αυτο ομως ρε φιλαρακι ταξιβιλα ειναι η αποψη του Chomsky για το GPT.-3 και αναλυει κατα ποσο "νοιωθει" αυτο το συστημα, τις λεξεις που προσφωνει. Οποιος βγαζει γλωσσα στον Chomsky ειναι ηλιθιος. Αυτο επρεπε να το αναφερω γιατι δεν με προβληματιζουν οι δηλωσεις του Chomsky.
Τα ΑΙ project ξεπεταγονται σαν μανιταρια και τα νουμερα των επενδυσεων που γινονται καταντανε υβρη.
Οταν πεφτει χρημα, το ms dos 1 γινεται windows 11.
 
Αυτο ομως ρε φιλαρακι ταξιβιλα ειναι η αποψη του Chomsky για το GPT.-3 και αναλυει κατα ποσο "νοιωθει" αυτο το συστημα, τις λεξεις που προσφωνει. Οποιος βγαζει γλωσσα στον Chomsky ειναι ηλιθιος. Αυτο επρεπε να το αναφερω γιατι δεν με προβληματιζουν οι δηλωσεις του Chomsky.
Τα ΑΙ project ξεπεταγονται σαν μανιταρια και τα νουμερα των επενδυσεων που γινονται καταντανε υβρη.
Οταν πεφτει χρημα, το ms dos 1 γινεται windows 11.
Δεν ηταν απαντηση στο σχολιο σου ρε, απλα ετυχε και ποσταριστηκε λιγο μετα τη δικη σου γραφη
 
Ειμαι ΠΟΛΥ περιεργος για τις βελτιωσεις που καναν και ποσο στρωμενο ειναι απο το 3
Δεν ξέρω αν έχει αλλάξει κάτι, δεν κλίκαρα καν τον σύνδεσμο, αλλά τελευταία φορά η διαφορά είναι μόνο στο μέγεθος. Το μέγεθος όμως μετράει, ως τώρα δεν έχουν πιάσει οροφή με diminishing returns κάθε φορά που το μεγαλώνουν έχει ποιοτική διαφορά.
 
Μια κάπως διαφορετική -ίσως υπερβολικά απλή- οπτική στο ζήτημα των ΑΙ.

Παρτ 2
 
Σε τομείς όπως τα μαθηματικά θεωρώ πως βοηθάει. Του ζήτησα τις προάλλες να μου δείξει πώς να βρίσκω % και μου το έδειξε βήμα βήμα. Οκ, μπορεί να μην ήταν κάτι το σπουδαίο αυτό που του ζήτησα, αλλά γλίτωσα μισή (ίσως και παραπάνω) ώρα από την ζωή μου να ψάχνω πέρα δώθε για μία σοβαρή και καθαρογραμμένη απάντηση (και αν).

Πιστέυω πως το παραπάνω είναι μία πολύ θετική πρόοδος στον τομέα της μάθησης, ακόμη και στην σχολική ηλικία.
 
Του ζήτησα τις προάλλες να μου δείξει πώς να βρίσκω %
δεν ξερω ποσες φορες, εκατονταδες; χιλιαδες; το εψαξα αυτο το πραγμα. Εκανα την δουλεια μου; εκκαθαριση μνημης και κατευθειαν στη ληθη. Το αστειο και μαλλον φαινεται ποσο με νοιαζει αυτη η διαδικασια. Δεν το σημειωνω καπου αλλα το ψαχνω ΚΑΘΕ φορα.
EDIT
Μπηκα στο GPT-4 site και με ρωτησε αν ειμαι μποτ ω δε αιρονι
 
Back
Top