Naqern Zöevxr
stellt eine Frage · vor 2 Monaten

Was sind ethische Standards für künstliche Intelligenzen? Brauchen wir diese?

Liebe Community, ich möchte mit dieser ersten Frage eine Debatte zum Thema Künstliche Intelligenz - Chancen und Risiken anstossen, und gemeinsam mit Euch überlegen, wie man die Risiken minimieren und die Chancen im Sinne einer besseren und gerechteren Welt nutzen kann. Ich freue mich über viele Zukunftsgestalter*innen, die sich hierzu Gedanken machen!
Besonders interessiert mich die Meinung und Expertise von Mareike Stender ; Jakob Seidler ; Janine Kerner und Maxim Nenahof 

Wnxbo Frvqyre · vor 2 Monaten

Die Gefahr Hacking und Datenschutz sind definitiv wichtig, aber nicht ein spezielles Problem mit Künstlicher Intelligenz. Man könnte zwar die Sammlung der Datenmengen notwendig für unsere gegenwärtigen Algorithmen als grundsätzlich schlechten Anreiz, um Privatsphäre zu schützen, ansehen, aber auch das ist nur bedingt der Fall, da vor allem im Fall von Big Data und Machine Learning im resultierenden Modell nichts persönliches mehr vorhanden ist. Eine spezielle Gefahr zu der wir uns ethische Fragen stellen müssen ist auf der einen Seite schlechte Diskriminierung, also Andersbehandlung von Personen aufgrund von irrelevanten Attributen, durch Algorithmen. Auf der anderen Seite wie schnell man diese Hochskalieren darf ohne sie ausreichend getestet zu haben. Schlussendlich bleibt noch die extrem interessante Frage, was wir tun wenn KI so gut wird, dass man Inhalte von KIs nicht mehr von menschengemachten unterscheiden kann. Zum Beispiel GPT3 oder GPT-Neo generiert menschenähnlichen Text am laufenden Band. Wie bringen wir das an die Öffentlichkeit ohne jegliche Möglichkeit FakeNews im Internet zu limitieren aufzugeben. Wenn kleine Gruppen mit vielen falschen Accounts Informationspubklikation zu jedem Thema komplett automatisieren können, wie funktioniert unsere Gesellschaft dann? Wie gehen wir mit KI auf diesem Level um und wie nutzen wir es zum Guten und limitieren das Negative?

Und dann gibt es noch KI-Waffen und die Frage, ob wir es als ethisch vertretbar befinden, dass sie autonom Menschen töten dürfen. KI strotz nur so von echt wichtigen ethischen Fragen.

Wnxbo Frvqyre · vor 2 Monaten

Zahlreiche Organisationen haben in der letzen Zeit Grundsätze zur ethischen KI Entwicklung entwickelt. Auch Staaten bewegen sich momentan in die Richtung, zum Beispiel verbieten mehr und mehr statten den Einsatz von Gesichtserkennung. Gleichzeitig hat die EU einen Regulierungsvorschlag vorgelegt, der der bisher ambitionierteste und stärkste weltweit ist.

Gbov Xruy · vor etwa 2 Monaten

Hello in die Runde. Ich bin erst etwas später auf diese Post aufmerksam geworden. Super, dass sich einige bereits so viele Gedanken um das Thema machen! Ohne an dieser Stelle weiter einzutauchen, aber die Punkte von Andrea und Jakob weiter oben aufgreifend:
* der Link zu den EU Regularien (https://ec.europa.eu/germany/news/20210421-kuenstliche-intelligenz-eu_de)
* ein paar Institute aus dem Bereich: https://ethical.institute/ / https://zevedi.de/ / https://ieai.mcts.tum.de/ / https://www.responsible.ai/

* eine aktuelle Buchempfehlung https://www.genialokal.de/Produkt/Kate-Crawford/Atlas-of-AI_lid_41626992.html
* und weil gerade kostenlos auf youtube verfügbar eine Doku Empfehlung: https://www.youtube.com/watch?v=7mqR_e2seeM

Ebznan Fpunvyr · vor etwa 2 Monaten

Hi Tobi,

kannst Du das Video (an-)sehen? Bei mir heißt es, es sei nicht zur Verfügung.

Gbov Xruy · vor etwa 2 Monaten

ist eigentlich öffentlich. Schau mal nach The Social Dilemma - sollte man auch per Suche finden.

Ebanyq Qrpxreg · vor etwa 2 Monaten

Hallo Andrea, ich kann zu dieser Diskussion, die für unser aller Zukunft und zwar auch mit Blick bis hin zu §1 Grundgesetz, sehr wichtig ist, dies beitragen (Big Five einer wünschenswerten Entwicklung zu KI) https://twitter.com/Sinnmacht/status/1338524216648478722/photo/1. Schon hieran sieht man sehr schnell, dass es gar nicht einfach zu handeln sein wird. Eine der großen Herausforderungen unserer Zeit, denke ich. Herzliche Grüße, Ronald

Naqern Zöevxr · vor etwa 2 Monaten

Danke, das ist eine gute Grafik!

Gvzb Xhem · vor 2 Monaten

Mein Freund Jakob Seidler hat eine sehr gut durchdachte Bachelor-Arbeit über dieses Thema geschrieben. 

Naqern Zöevxr · vor 2 Monaten

Danke, habe ihn nun im Post getagged, in der Hoffnung, dass er antwortet.

Ebznan Fpunvyr · vor 2 Monaten

Hi Andrea,

""Fake-News oder Fake-Rezensionen). Wenn zukünftig KIs unsere Texte schreiben, muss man dann in der Schule noch lernen, wie man Aufsätze schreibt?..." LOL. Auch wenn es überhaupt nicht zum Lachen ist. So wie heute Menschen nicht wissen mit wem sie chatten, ob es tatsächlich die attraktive Person wie auf dem Foto gezeigt wird, ob es bei einem Kind ein Pädophiler oder Päderast die Chatperson ist und kein anderer Jugendlicher, werden wir künftig nicht mal wissen, hinter welchem Geschriebenen tatsächlich ein Mensch sich befindet. Ich finde das höchst beunruhigend. Also, wenn ich  mal wieder ungefragt Ratschläge erteilt habe, war das eine künstliche Intelligenz. :-))

Salve,

Romana

Ebznan Fpunvyr · vor 2 Monaten

Stichwort Crowdsourcing: hier können wir Gleichgesinnte finden, die das Projekt einerseits bewerben können und andererseits selbst Ideen einbringen können:

http://www.paperball.de/

https://www.google.de/alerts

https://www.monitoringmatcher.de/2017/07/5-kostenlose-google-alerts-alternativen/

https://www.loop-media.de/liste-kostenlose-presseportale/, z.B. https://xn--brgersagt-q9a.de/ klingt interessant zum Erreichen von Bürgern

https://www.pronline.de/kostenlose-presseportale/

natürlich soziale Netzwerkgruppen noch, und Du, Andrea, kannst u.a. noch bei SEND Werbung machen. :-)

Znervxr Fgraqre · vor 2 Monaten

Danke fürs Verlinken ! 🙂

Natürlich bringt jede Art von Digitalisierung Unsicherheiten und die Gefahr des Hackings mit sich. Gerade die Sicherung von personenbezogenen Daten hat einen hohen Stellenwert in der Entwicklung von intelligenten Systemen. 

Meiner Meinung nach benötigen wir auf jeden Fall ethische Standards im Rahmen der Digitalisierung und KI. 

Ebznan Fpunvyr · vor 2 Monaten

Hi Andrea, mit der Ethik allein ist es nicht getan. Ethische Standards sind eine Selbstverständlichkeit.

Hacking ist keine Frage des Ob sondern des Wann. Ergo, braucht es nicht nur Sicherheitsmaßnahmen, doppelt, drei- und mehrfach sondern auch Selbstbestimmung der Bürger:innen, welche Daten sie preisgeben möchten. Hier wünschte ich mir sehr viel Aufklärung und dass die Datenfreigabe personalisierbar wird. Was manche nicht an Datenweitergabe stört oder sie gar gut finden, finden andere wieder nicht in Ordnung für sich. Und wenn Personalisierung möglich ist, dann doch auch hier bei Bürgerrechten bitte.

Wesentlich finde ich auch das Festlegen, wofür Daten genutzt werden dürfen. Und ich befürchte, findige Leute wie Anwälte finden da Lösungen und Schlupflöcher, Daten gegen uns zu verwenden. 

Fiktive Beispiele: jemand leidet an einer Krankheit, weshalb er u.a. Medikamente erhält. Die Krankenkasse verkauft die Daten an potenzielle Arbeitgeber:innen und der Mensch wird nicht mal zum Vorstellungsgespräch eingeladen, weil er als weniger leistungsfähig angesehen wird oder weil Arbeitgeber:in Vorurteile gegen gewissen Erkrankungen oder menschliche Mängel hat.

Ich steh_ auf personalisierte Werbung bzw. Informationen um einfach die Reizüberflutung einzudämmen und Zeit zu sparen. Doch ich sehe auch die Gefahr der Manipulation und das Ausnutzen von persönlichen Defiziten, das Spielen mit Wünschen und Sehnsüchten.

Nicht nur in Schulen gibt es Markendruck und Markenwahn. Ich bin schon mehrfach von unterschiedlichen Leuten etwas abschätzig behandelt worden, weil ich kein iPhone habe und auch keines will.

Passend finde ich dieses Gedicht von Kristiane Allert-Wybranietz

Mein Einkaufsnetz muss Löcher haben…

Im Supermarkt kaufte ich
Zahnpasta, Zigaretten, Brot,
Seife, Weinbrand, Parfum,
Haushaltstücher, Badezusätze,
Kekse und noch allerlei…..

Zuhause suchte ich
zwischen Verpackungen und Produkten
nach der Freiheit, der Frische,
nach den Abenteuern und der Liebe
und all den anderen Stimmungen und Gefühlen,
die man mir (nach Erwerb dieser Dinge) versprochen hatte.

Als ich dann den Sekt für Verliebte alleine trank,
abenteuerduftende Zigaretten vor’m TV-Western rauchte,
als sich niemand sofort in mich verliebte,
obwohl ich das betörendste Parfum trug
(so stand es auf der Packung),
und als ich feststellte,
dass die Haushaltstücher und die Putzmittel
die Arbeit doch nicht von allein machten,
sagte ich mir:
Mein Einkaufsnetz muss Löcher haben.

Was an Mobbing bislang in Schulen läuft, wird zunehmend auch als Shitstorms im Internet unter den Menschen und Firmen stattfinden. Mitbewerber am Markt diskreditieren (Vorläufer sind beispielsweise Negativbewertungen durch Konkurrenz zur KI) bzw. Menschen abwerten um das eigene labile Ego aufzuwerten... https://www.pressetext.com/news/neue-ki-schreibt-glaubhafte-fake-reviews.html

In absehbarer Zukunft werden Kriege weniger mit Kriegswaffen denn mehr mit digitalen Waffen geführt. Google schreibt: "Bereits seit Ende des 20. Jahrhundert sind Aktivitäten zu beobachten, die sich als Cyber-Krieg einstufen lassen. Im Kosovokrieg störte und manipulierte die NATO 1999 gezielt serbische Flugabwehrsysteme, drang in Telefonnetze ein und behinderte das Finanzsystem.21.12.2017,"

Stellt Euch vor, ein Attentat auf unser Stromnetz. Nix mehr mit Telefon oder Internet. Dh. künstliche Intelligenz gut und schön, doch es braucht immer auch eine Alternative für Notfälle: https://www.tu-chemnitz.de/tu/pressestelle/aktuell/10510

Meines Erachtens sollte es hier ein groß angelegtes Crowdsourcing-Projekt geben, in dem Menschen schreiben was sie hinsichtlich ihrer Daten wünschen. Aufklärung ist ein sehr wichtiger Punkt. Und wir dürfen auch  nicht die Menschen vergessen, die bei der Digitalisierung abgehängt werden, sprich teils ältere Menschen und vor allem auch Migranten. Klar, es gibt Computer- und Internetkurse für Flüchtlinge. Doch die Wenigsten dürften das wissen bzw. nutzen., können sie ja viele kaum Deutsch. Zur Integration gehört für mich auch, dass MIgranten mit dem Internet umzugehen wissen. Computer- und Internetkurse müssten genauso verpflichtend sein wie es Deutschkurse sind inklusive Prüfungen.

Ein weites Feld mit vielen Möglichkeiten und Gefahren. Intelligenz ansich ist neutral. Die Frage ist, wie wird sie genutzt?! https://kompetenzzentrum-augsburg-digital.de/kuenstliche-intelligenz-einfach-erklaert/, https://www.vontobel.com/de-de/impact/die-ethik-der-kuenstlichen-intelligenz-19892/?Category=19878&gclid=CjwKCAjw9uKIBhA8EiwAYPUS3PqMGBm3SUGE8xnjwgvIkWYzDcsRnHFYItd1lLLRSupFq5UhxkHJSBoCXmUQAvD_BwE

Ebznan Fpunvyr · vor 2 Monaten

Ich spreche mich ganz klar für künstliche Intelligenz, freue mich auf die Vorteile, doch im Moment sehe ich leider fast nur die Gefahren: https://www.nextpit.de/kuenstliche-intelligenz-gefahren oder https://www.zdf.de/nachrichten/heute/cybersicherheit-digitalisierung-macht-stromnetze-angreifbar-102.html

Avyf Tvrfra · vor 2 Monaten

Hallo zusammen,

ich klinke mich mal an dieser Stelle in die Diskussion ein. Ein sehr spannendes und leider noch nicht umfassend betrachtetes Problem mit  Blick auf KI/ML und Co sind klar die Auswirkungen und Bezüge zur Nachhaltigkeit.

Das es ethische Grenzen geben muss, steht sicherlich außer Frage - doch welchen Rahmen geben wir diesen Ansätzen?

Biases in Algorithmen möchte offiziell niemand haben, aber die Praxis und Erfahrung zeigt, dass es den Verantwortlichen und insbesondere den Umsetzenden an Orientierung fehlt. Ob nun die Bilderkennung die komplette Personengruppen ausgrenzt, Ranking und Rating Verfahren im Sinne einer Black Box vollkommen ohne Einblick/Verständnis von außen die Entscheidungen treffen oder Zweckentfremdung zum gezielten Einsatz wider Menschenrechten und ethischen Grundlagen - es fehlt an der Selbstverpflichtung /Wahrnehmung der Verantwortung. Dabei gibt es dazu schon lange Vorschläge und Vorgaben (ACM, FiFF...) die man verwenden könnte, doch in der Umsetzung tun sich die meisten damit schwer. Gerade auch weil sich das natürlich in den Umsetzungsalltag schwer integrieren lässt und evtl. auch Zeit und Kosten-Gründe vorgeschoben werden.

Etwas das mir in der generellen Debatte um den Einsatz von KI momentan auch noch etwas zu kurz kommt sind die ökologischen Folgen des Optimierungs- und Trainingswahn. Wenn 5% in der mAP 5x soviel Ressourcen fressen, kann man auch Verantwortung einbeziehen ob es so "gut" sein muss..

Hoffe der Input konnte euch helfen :-)

Noch kein Profil auf reflecta.network?

Melde dich jetzt kostenlos an und lerne andere Zukunftsgestalter:innen kennen.

Profil erstellen

Interviews

Wir benutzen Cookies, um dir die bestmögliche Erfahrung mit der Plattform zu bieten. Mehr Informationen