What's new

Welcome!

By registering with us, you'll be able to discuss, share and private message with other members of our community.

SignUp Now!

Νέα για AI και παρεμφερείς τεχνολογίες και εφαρμογές τους

Thaxll'ssillyia

Φραγκολεβαντίνος μπιφτεκάς
Joined
Feb 11, 2021
Messages
2,000
Χωρίς καν να εξετάσουμε το ενδεχόμενο το ΑΙ να γίνει Skynet και να μας αφανίσει όλους.
Πανω σε αυτο, ο πατερας των Νευρωνικων Δικτυων (και ουσιαστικα των νεων τεχνολογιων στο Deep Learning/LLM) σε μια συνεντευξη του πλεον δεν θεωρει αυτο το σεναριο αδυνατο



Επισης σημερα εβγαλε μια ωραια αποψη ο -γνωστος υποπτος- Marcus, ενω αυριο δημοσιευεται ενα Γραμμα Προειδοποιησης απο το Future of life Institute για τους νεους κινδυνους στην ΑΙ.


I am not worried, immediately, about “AGI risk” (the risk of superintelligent machines beyond our control), in the near term I am worried about what I will call “MAI risk”—Mediocre AI that is unreliable (a la Bing and GPT-4) but widely deployed—both in terms of the sheer number of people using it, and in terms of the access that the software has to the world. A company called Adept.AI just raised $350 million dollars to do just that, to allow large language models to access, well, pretty much everything (aiming to “supercharge your capabilities on any software tool or API in the world” with LLMs, despite their clear tendencies towards hallucination and unreliability).

Lots of ordinary humans, perhaps of above average intelligence but not necessarily genius-level, have created all kinds of problems throughout history; in many ways, the critical variable is not intelligence but power, which often caches out as access. In principle, a single idiot with the nuclear codes could destroy the world, with only a modest amount of intelligence and a surplus of ill-deserved access.

If an LLM can trick a single human into doing a Captcha, as OpenAI recently observed, it can, in the hands of a bad actor, create all kinds of mayhem. When LLMs were a lab curiosity, known only within the field, they didn’t pose much problem. But now that (a) they are widely known, and of interest to criminals, and (b) increasingly being given access to the external world (including humans), they can do more damage.

Although the AI community often focuses on long-term risk, I am not alone in worrying about serious, immediate implications. Europol came out yesterday with a report considering some of the criminal possibilities, and it’s sobering.
 

Thaxll'ssillyia

Φραγκολεβαντίνος μπιφτεκάς
Joined
Feb 11, 2021
Messages
2,000

ΣΗΜΑΝΤΙΚΟΤΑΤΗ πρωτοβουλια, καθως υπογραφουν τιτανες της ΑΙ, οπως ο Stuart Russel και o Andrew Yang, αλλα και σημαντικοτατα αλλα μελη της επιστημονικης κοινοτητας οπως ο Max Tegmark και ο Steve Wozniak. Επισης εχει και παρα πολλους ελληνες επιστημονες του πεδιου!

Α επισης υπογραφει και η κουραδα ο μουσκ
 

Thaxll'ssillyia

Φραγκολεβαντίνος μπιφτεκάς
Joined
Feb 11, 2021
Messages
2,000


In addition to its commitment to a more ethical form of AI generator, Adobe is doubling down on ethics with a “Do Not Train” tag for creators who do not want their content used in model training. According to Adobe, this tag will "remain associated with content wherever it is used, published, or stored."

Εχει παρα πολλα αρνητικα η corpo στρατηγικη της Adobe, αλλα με το Firefly πρεπει να παραδεχτουμε οτι παιζει πολυ δικαια! Σεβασμος




Επισης αρχιζει να συζηταται το -κουτσουρεμενο μεχρι αηδιας- νομοσχεδιο της ΕΕ για την ΑΙ...its something αλλα οχι αρκετο :/


AI system risk categories

Under the AI Act, organizations’ AI systems will be classified into three risk categories, each with their own set of guidelines and consequences.

  • Unacceptable risk. AI systems that meet this level will be banned. This includes manipulative systems that cause harm, real-time biometric identification systems used in public spaces for law enforcement, and all forms of social scoring.
  • High risk. These AI systems include tools like job applicant scanning models and will be subject to specific legal requirements.
  • Limited and minimal risk. This category encompasses many of the AI applications businesses use today, including chatbots and AI-powered inventory management tools, and will largely be left unregulated. Customer-facing limited-risk applications, however, will require disclosure that AI is being used.
 

Thaxll'ssillyia

Φραγκολεβαντίνος μπιφτεκάς
Joined
Feb 11, 2021
Messages
2,000

:cry:

The man became very eco-anxious and found refuge with ELIZA, the name given to a chatbot that uses GPT-J, an open-source artificial intelligence language model developed by EleutherAI. After six weeks of intensive exchanges, he took his own life.


Eco-anxiety (short for ecological anxiety and also known as eco-distress or climate-anxiety) has been defined as "a chronic fear of environmental doom"
 

Admiral

Ancient Red Dragon
Staff member
Joined
Nov 27, 2012
Messages
12,255
Είναι πολύ κρίμα να χάνονται έτσι ανθρώπινες ζωές. Οι νομοθέτες σε όλο τον κόσμο πρέπει να ασχοληθούν άμεσα με το θέμα "ΑΙ και ηθική".
 

Thaxll'ssillyia

Φραγκολεβαντίνος μπιφτεκάς
Joined
Feb 11, 2021
Messages
2,000
Είναι πολύ χειρότερα αποσο το περιμέναμε.

Ήδη μεγάλες εταιρείες όπως το Feedly βγάζουν υπηρεσίες ενάντια στο κοινωνικό σύνολο, πχ να ενημερώνουν τους μεγάλο επιχειρηματίες για τυχόν ταραχές και συνδικάτα που δημιουργούνται όπου θα μπορούσαν να τους κάνουν να χάνουν λεφτά.

Μετά την κατακραυγή το κατέβασαν αλλά υπάρχει ακόμη στο way back machine

 

lucinos

Death Knight
Joined
Nov 16, 2015
Messages
2,667
Είναι πολύ χειρότερα αποσο το περιμέναμε.
Μίλα για λογαριασμό σου. Εγώ πιστεύω ότι πολλά νομοσχέδια ούτε τα έχει γράψει, ούτε τα έχει διαβάσει κανένας άνθρωπος.
 

Thaxll'ssillyia

Φραγκολεβαντίνος μπιφτεκάς
Joined
Feb 11, 2021
Messages
2,000

Industry self-regulation is clearly not sufficient to avoid these ethical harms, which is why the Recommendation provides the tools to ensure that AI developments abide by the rule of law, avoiding harm, and ensuring that when harm is done, accountability and redressal mechanisms are at hand for those affected.


Αυτο το κειμενο ειναι του 2021 και αρκετα μικροτερο καθως περιεχει περισσοτερο γενικες προτασεις και ευχολογια παρα συγκεκριμενες νομοθετικες ρυθμισεις, αλλα το οτι ξαναπροωθειται ειναι ενδεικτικο του οτι αρχιζει να υπαρχει μια παγκοσμια πιεση.

Το βρισκετε εδω

 

Thaxll'ssillyia

Φραγκολεβαντίνος μπιφτεκάς
Joined
Feb 11, 2021
Messages
2,000
Καλως τα ναυτακια τα ζουμπουρλουδικα.

Αναρωτιομουν ποτε θα σκασουν και οι λεσρονγκ να πουν τα δικα τους "ΘΑ ΠΕΘΑΝΟΥΜΕ ΟΛΟΙ!". Παλι καλα που ο γιουντοφσκης δεν καλει σε ομαδικες αυτοκτονιες πινοντας δηλητηριασμενη σαγκρια χορευοντας στη πανσεληνο και αρκειται στο να καλει σε αεροπορικους βομβαρδισμους rogue data centers.

Περα απο τη πλακα, το να δινεται βημα σε τετοιες αποψεις (ερχεται ο σατανας, το singularity σε λιγους μηνες και θα μας σκοτωσει ολους) μονο κακο κανει στους ουσιαστικους ΑΙ κινδυνους που απειλουν την ανθρωποτητα.
Κινδυνοι οπως η παραπληροφορηση/στρεβλωση της οπτικης μας μεσω σοσιαλ, η εντατικοποιηση της παρακολουθησης των δεδομενων μας, η ενσωματωση της ΑΙ στην κοινωνικη καταστολη και τοσα αλλοι αλλοι χανονται μεσα στο θορυβο τετοιων αρθρων. :/
 

Thaxll'ssillyia

Φραγκολεβαντίνος μπιφτεκάς
Joined
Feb 11, 2021
Messages
2,000
Λιγο πανω απο 24ωρο μετα απο αυτο

Περα απο τη πλακα, το να δινεται βημα σε τετοιες αποψεις (ερχεται ο σατανας, το singularity σε λιγους μηνες και θα μας σκοτωσει ολους) μονο κακο κανει στους ουσιαστικους ΑΙ κινδυνους που απειλουν την ανθρωποτητα.
Κινδυνοι οπως η παραπληροφορηση/στρεβλωση της οπτικης μας μεσω σοσιαλ, η εντατικοποιηση της παρακολουθησης των δεδομενων μας, η ενσωματωση της ΑΙ στην κοινωνικη καταστολη και τοσα αλλοι αλλοι χανονται μεσα στο θορυβο τετοιων αρθρων. :/

Σκαει αυτο ως επιβεβαιωση :/

1680458376923.png





"I won’t sign your letter, because some people who signed your letter have worried about some risks that I happen to think are more pressing than some of the risks that your letter happened to emphasize.”

That kind of thinking is not a recipe for success."



PS.
Επισης σκασανε και οι κρυπτοανκαπ γροθομπροζ, οπως ο τσεος της Coinbase

1680458311891.png
 

mits@kos

Death Knight
Joined
Dec 8, 2012
Messages
2,942
Υπάρχει πολύ γκρι εκεί έξω, το άσπρο-μαύρο είναι μια τεράστια απλουστευτική πολυτέλεια, που γενικώς κανείς δεν πρέπει να επιτρέπει στον εαυτό του, αν τον ενδιαφέρει η αποτελεσματικότητα της κριτικής του ικανότητας.

Το να υπάρχουν δικλείδες ασφαλείας, ένας γενικός διακόπτης, ένα order 66 προτού η ανθρωπότητα βρεθεί αντιμέτωπη με μέσα που υπερβαίνουν τις δυνάμεις της, θα έπρεπε να θεωρείται αυτονόητο. Ποσώ δε μάλλον, όταν η εξέλιξη του τομέα αποτελεί, συντριπτικά, πεδίο δραστηριότητας ιδιωτικών-κερδοσκοπικών οντοτήτων. Για την ακρίβεια, δεν έχω κατασταλλάξει μέσα μου τι είναι χειρότερο, να ηγείται των σχετικών εξελίξεων το ιδιωτικό επενδυτικό όφελος ή η εκάστοτε κρατική καταστολή και το μονοπώλιο της νόμιμης βίας.

Η σκέψη ιδιωτικών συμφερόντων στην ανάπτυξη πυρηνικών όπλων προκαλεί πανικό, για την ακρίβεια πολλαπλασιάζει τον υφιστάμενο γύρω από τη σχετική δυνατότητα που υπάρχει σε επίπεδο εθνών-κρατών. Για κάποιον λόγο όμως, είμαστε σούπερ χαλαροί μπροστά στην θέα μηχανισμών καθαρού καπιταλιστικού κέρδους να ηγούνται των ερευνών του είδους μας επί της τεχνητής νοημοσύνης, αρκεί να μπορούμε να χρησιμοποιούμε glorified chatbots για ημι-χρήσιμους σκοπούς.

Παραείμαι invested στην cognitive/sentient AI για να κάνω γαργάρα τα παραπάνω, και όχι μόνο σε επίπεδο θεατή των εξελίξεων. Μαζί με το transhumanism, θεωρώ πως μόνο εκεί μπορούμε να στηρίξουμε σαν είδος την επιβίωσή μας σε έναν πλανήτη πεπερασμένων φυσικών πόρων που δεν ανανεώνονται ή αναπληρώνονται με επαρκείς ρυθμούς.

Ευτυχώς, απέχουμε παρασάγγας από οτιδήποτε στοιχειωδώς τεχνητά νοήμον προς το παρόν, οπότε υπάρχει ακόμα χρόνος για να το πάρουμε σοβαρά.

Μόλις πήρε το μάτι μου αυτό και θα βάλω να το ακούσω τώρα (διαρκεί περισσότερο από τρεις ώρες):
 

Thaxll'ssillyia

Φραγκολεβαντίνος μπιφτεκάς
Joined
Feb 11, 2021
Messages
2,000
Γιατι μου το κανεις αυτο ρε μητσαρα? Πανω που ετοιμαζομουν να σου ριξω ενα μεγαλοπρεπεστατο αγκρη, μου ριχνεις τον γιουντοφκση να δινει στην προσωποποιηση της απογοητευσης τον φριντμαν (θυμησου και δω τι εγραφα για το πως ντροπιαστηκε στο πεδιο της ΑΙ ο τυπος)
- Για τις δεκαετιες που προσπαθησαν οι ΑΙ επιστημονες της Google του Larry Page (πριν γινει alphabet) να σπρωξουν στα αμαξια το AI-assistance και την παταγωδη αποτυχια τους και στο τελος την αποδοχη πως ετσι ειναι η ανθρωπινη φυση και να πανε για πληρη ΑΙ αυτονομια στο αμαξι.
(καπου εδω εχουμε και συνδεση αυτης της προσπαθειας με τους μανατζαραιους/μαρκετιστες της Tesla, τη μουφα δημοσιευση του Lex Fridman για το οτι ο Mackworth ελεγε παπατζες και ειναι εφικτη "μια σχετικα υψηλη εγρηγορση σε τετοιες περιπτωσεις", την προωθηση της δημοσιευσης απο τον Ελον Μουσκ, και την εξαφανιση της δημοσιευσης και εν γενει του ιδιου του Fridman απο το επιστημονικο πεδιο του driverless ΑΙ)

Ετσι με εχεις κανει, ετσι!




Περα απο τη πλακα, ακριβως επειδη δεν ειναι ασπρο-μαυρο η φαση και υπαρχουν πολλα συμφεροντα απο πισω, πιστευω οτι θα πρεπει να βρουν ολοι οι εμπλεκομενοι επιστημονες τον ελαχιστο κοινο παρονομαστη στο ζητημα της ηθικης και να ξεκινησουν απο εκει. Για να γινει αυτο θα πρεπει να σταματησει ο κορπο ανταγωνισμος και να παρουμε ολοι μια ανασα για να δουμε που βρισκομαστε


Οσοι απορριπτουν αυτη τη προσπαθεια για να προβαλλουν τη δικη τους οπτικη (οπως οι dais με τη woke-anticorpo-ανταρσυα-ai, ο γιουντοφκσης με τη ντουμ καλτ του, οι κοινμπροζ με τα ancap αντικρατικα παπατζιλικια τους κλπ) πρεπει να τρωνε συνεχες κραξιμο για το απαραδεκτο γεγονος οτι, ενω αποδεχονται αυτον τον κινδυνο, αρνουνται να συνεργαστουν θελοντας να καπελωσουν καθε προσπαθεια συζητησης για την ηθικη στο ΑΙ.
 

Thaxll'ssillyia

Φραγκολεβαντίνος μπιφτεκάς
Joined
Feb 11, 2021
Messages
2,000
Περα απο το κοινωνικοπολιτικο ρισκο και την στροφη προς την ολοκληρωτικη δυστοπια, τα LLM μπορουν να αλλαξουν το τοπιο στις Bullshit jobs οπως τις χαρακτηριζε ο David Graeber (R.I.P.)

I gave myself 30 minutes, and tried to accomplish as much as I could during that time on a single business project. At the end of 30 minutes I would stop. The project: to market the launch a new educational game. AI would do all the work, I would just offer directions.

Εδω χαρακτηριστικοτατο παραδειγμα για το πως θα μπορουσε να αντικαταστησει τους μανατζαραιους σε κρισιμους τομεις για αυτους, πχ συμβουλους μικρομεσαιων επιχειρησεων. Εβαλε χρονομετρο και καταφερε μεσα σε 30 λεπτα της ωρας να εχει ετοιμα:

  • τη market research για συγκεκριμενη επιχειρηματικη ιδεα (ενα νεο εκπαιδευτικο παιχνιδι)
  • συγκεκριμενου στυλ επιχειρηματικα memo's προς εταιρους
  • καμπανιες ενημερωσης προς ενδιαφερομενους επενδυτες/πελατες
  • website για την επιχειρηση
  • δημιουργια brand name, logo και πυρηνα γραφιστικης παλετας
  • προμοταρισματα σε διαφορα social media
  • δυο προμοσιοναλ βιντεο της επιχειρησης

----
Τωρα για οσους ενδιαφερονται για την ιστορια πισω απο τα LLMs, τη τεχνολογια που κρυβεται πισω απο τα ChatGPT/Bard κλπ,
εδω ειναι μια ωραια ανασκοπηση με λιτες περιγραφες για το καθε μοντελο, εκτος απο το GPT-4 που δε ξερουμε.


---

Τελος εδω ειναι ενα ωραιο αρθρακι απο το The New Yorker (σπανιο για αυτη τη πηγη) που παρουσιαζει το κινδυνο του GPT-4+ απο τη σκοπια των δημιουργων του

 

Eaglos

Mind-flayer
Joined
Jan 3, 2020
Messages
1,509
Παντως το βασικο προβλημα του να μην δειχνει generic δουλεια, "στο ποδι" και με μηδεν εμπνευση, δεν το ελυσε :)
 
Last edited:

Thaxll'ssillyia

Φραγκολεβαντίνος μπιφτεκάς
Joined
Feb 11, 2021
Messages
2,000
Πολυ ωραια σουμα για το τι παιζει με τα κρατη αυτη τη στιγμη! Αν και ηξερα για την απογοητευτικη σταση των ΗΠΑ, δεν ηξερα πχ για το crackdown της Κινας στα deepfakes η το draft για νομοθεσια σχετικα με τα LLMs που ετοιμαζει.

Απο τη μια χαιρομαι που ανελαβε ο εταιρος πολος πρωτοβουλια περιορισμου των μοντελων, ωστε να υπαρξει πιεση στη Δυση, απο την αλλη ανησυχω για την αναπτυξη δικων τους μοντελων και την ενδεχομενη μη δημοσιοποιηση των μελετων τους, αν επιλεξουν να ακολουθησουν το παραδειγμα της OpenAI. Να σημειωσω εδω οτι η Κινα, αν και απο τις πρωτοπορους στο τομεα της ΑΙ τη τελευταια δεκαετια, με εκατονταδες ερευνητικα paper υψηλης αξιας, ποτε δεν απεκρυψε τις μεθοδους και τη τεχνογνωσια που χρησιμοποιησε σε οτι δημοσιευε.

Παμτως το βασικο προβλημα του να μην δειχνει generic δουλεια, "στο ποδι" και με μηδεν εμπνευση, δεν το ελυσε :)

Ε καλα, μη νομιζεις και οτι οι μανατζαραιοι συμβουλοι επιχειρησεων που δουλευουν ως εξωτερικοι συνεργατες φτιαχνουν κοστουμια αποκλειστικα για καθε επιχειρηση που αναλαμβανουν. Μια βολτα απο επιχειρησεις και σαιτ στην Ελλαδα πχ θα δεις τη genericιλα που υπαρχει. Υπαρχει ενα τρεντ ανα μερικα χρονια και ακολουθειται αντιγραφη της αντιγραφης.
Λογω δουλειας στο τυπογραφειο, καθε σαιζον τσεκαρουμε website με λαδια, μελια, ενοικιαζομενα, τουρισταδικα, εταιρειες αναψυχης κλπ...στη συντριπτικη τους πλειοψηφια ειναι τοσο τζενερικ η δουλεια σε λογκος/σαιτ/κειμενα/φωτογραφιες/στησιματα κλπ που ανετα θα μπορουσε να το κανει ο τυπος του αρθρου οχι σε μισαωρο, αλλα σε πεντε λεπτα

edit: Οσον αφορα τις bullshit jobs, καπου 300μυρια απο αυτες θα εξαφανιστουν εκτιμανε τα κουστουμια της Goldman Sachs...
ακομη και αν δε συμφωνω με το αρθρο, ειναι μια καλη ενδειξη για την ανησυχια που υπαρχει για το πως θα δημιουργουνται δουλειες που θα κρατουν τους pencil-pushers απασχολημενους



(ΛΕΥΤΕΡΙΑ ΣΤΗ ΤΕΜΠΕΛΙΑ! ΘΕΛΟΥΜΕ ΝΑ ΠΑΙΖΟΥΜΕ ΒΙΝΤΕΟΓΚΕΜΙΑ 8ωρο ΣΑ ΔΟΥΛΕΙΑ!)
 
Last edited:

nitro912gr

Ancient Red Dragon
Approval of the Admiral PCMaster Veteran Klika Member
Joined
Nov 26, 2012
Messages
14,264
Παμτως το βασικο προβλημα του να μην δειχνει generic δουλεια, "στο ποδι" και με μηδεν εμπνευση, δεν το ελυσε :)
ναι αλλά την έκανε σε 30 λεπτά, τι θες να πεις δείχνει δουλειά των 30 λεπτών :trollface:
 
Top Bottom