Tumblelog by Soup.io
Newer posts are loading.
You are at the newest post.
Click here to check if anything new just came in.

January 23 2014

Unabhängige Datenschutzbehörde der US-Regierung sieht NSA-Vorratsdatenspeicherung als illegal an.

Das Privacy and Civil Liberties Oversight Board (PCLOB) hat den NSA-Überwachungsprogrammen in einem 238-seitigen Bericht, der der Washington Post und der New York Times vorliegt, ein vernichtendes Urteil ausgestellt, die Sammlung von Vorratsdaten als illegal bezeichnet und den Stopp dieser Programme gefordert.

Im Detail beziehen sie sich dabei auf Absatz 215 des USA Patriot Act, dem gemäß staatliche Behörden nur dann auf Aufzeichnungen von Metadaten zugreifen dürfen, wenn diese für eine aktuelle, autorisierte Ermittlung relevant sind. Dessen Anwendung auf die Programme der NSA stellen sie in Frage, da die millionenfache tägliche Speicherung und Auswertung von Metadaten nicht an einzelne Ermittlungen gebunden ist. Vielmehr sei die Funktion dieser Massenspeicherung die Verbesserung der Anti-Terror-Kapazitäten der Vereinigten Staaten allgemein.

“At its core, the approach boils down to the proposition that essentially all telephone records are relevant to essentially all international terrorism investigations, [this approach is] at minimum, in deep tension with the statutory requirement that items obtained through a Section 215 order be sought for ‘an investigation,’ not for the purpose of enhancing the government’s counterterrorism capabilities generally.”

Da dieses Vorgehen aus der Sicht des PCLOBs explizit nicht durch den Patriot Act abgedeckt wird, kommen sie zu dem Ergebnis, dass die Vorratsdatenspeicherung von Telefonanrufen durch die NSA illegal ist. Dies steht im krassen Widerspruch zu den Aussagen der Regierung, die stets auf die Rechtmäßigkeit der Überwachungsprogramme verwiesen habe.

Nicht nur die Praxis der Speicherung als solche wird von der Behörde kritisiert, sondern auch die Sinnhaftigkeit des Programmes. In einer Untersuchung von 12 Fällen von Terrorismus kamen sie nicht nur zu dem Ergebnis, dass die Vorteile der aus den NSA-Programmen gewonnenen Daten für die Aufklärung minimal waren, sondern auch, dass sie oft lediglich Informationen bestärkten, die unabhängig durch das FBI gewonnen wurden.

Wir wollen netzpolitik weiter ausbauen. Dafür brauchen wir finanzielle Unterstützung. Investiere in digitale Bürgerrechte.

flattr this!

January 13 2014

New America Foundation: NSA-Massenüberwachung nicht maßgeblich bei Terrorbekämpfung

Das Argument, Überwachung sei notwendig, um Terroristen und andere Bösewichte zu bekämpfen, hängt uns mittlerweile gewaltig zum Hals heraus. Damit hat man schon zig Male versucht, die Vorratsdatenspeicherung und andere Datensammeleien durchzusetzen und auch im Rahmen des NSA-Skandals wurde uns mehrmals ins Gewissen geredet. Die USA seien ja nur besorgt um die Sicherheit der Welt und man habe ja mindestens 50 Terroranschläge verhindert, auch für Europa. Leider schürt eine solche Rhetorik Unsicherheit und macht viele glauben, ohne das schützende allgegenwärtige Auge des Staates breche spontan eine terroristische Apokalypse ein. Dabei gab es ja auch eine Verbrechensbekämpfung vor dem Internet und den günstigen technischen Möglichkeiten, alles und jeden im Blick zu haben.

Deshalb freuen wir uns immer über handfeste Beweise gegen solche Propaganda. Heute ist eine Studie der New America Foundation erschienen. In Do NSA’s Bulk Surveillance Programs Stop Terrorists? werden 225 Fälle von Terrorplänen unter die Lupe genommen, bei denen die Person von al-Qaeda oder ideologisch ähnlichen Organisationen rekrutiert und später unter Terrorvorwurf verurteilt wurde.

Nur in 7,5% der Fälle wurde mit Hilfe von NSA-Maßnahmen die Ermittlungsarbeit initiiert, den Rest übernahmen traditionelle Ermittlungsmethoden wie Hinweise von Familie und Freunden, Informanten und auffälliges Verhalten, bzw. war in 27,6% der Fälle der Anfang der Ermittlungen nicht ermittelbar. Hier kann man sich die Ergebnisse grafisch aufbereitet anschauen und sich die einzelnen Fälle, die untersucht wurden, in Kurzzusammenfassung durchlesen.

Es wäre gut, viele glaubwürdige Studien wie diese zu sammeln, mit denen sich die Ineffizienz von Massenüberwachung bei der Verbrechensbekämpfung demonstrieren lässt, auch für die deutsche Debatte um Vorrats- und Bestandsdaten. Wenn ihr also ähnliche und seriöse kennt freue ich mich über Linkhinweise.

Wir wollen netzpolitik.org weiter ausbauen. Dafür brauchen wir finanzielle Unterstützung. Investiere in digitale Bürgerrechte.

flattr this!

December 16 2013

US-Gericht: Vorratsdatenspeicherung à la NSA dürfte die Verfassung verletzen

Das US-Bundesgericht für den District of Columbia – den Sitz der US-Regierung – hat am Montag im Rahmen einer einstweiligen Anordnung vorläufig entschieden, dass die Vorratsdatenspeicherung von Telefon-Verbindungsdaten durch die NSA gegen die US-Verfassung verstoßen dürfte. Der einst von Präsident George W. Bush nominierte Bundesrichter Richard J. Leon verurteilt das „Bulk Collection Program“ des Geheimdienstes in sehr deutlichen Worten: Er könne sich keine wahllosere und willkürlichere Verletzung der Privatsphäre vorstellen als die systematische Sammlung und Speicherung personenbezogener Daten mittels “High Tech”, um sie später ohne richterlichen Beschluss zu durchsuchen und zu analysieren, schreibt der Richter in seinem 68-seitigen Beschluss in der Sache Klayman v. Obama – via netzpolitik, OCR-erkannt.

(Datei im Original vom US-Gerichts-Server, derzeit ziemlich wackelig)

Daher verurteilte Judge Leon die US-Regierung, einstweilen keine weiteren Telefon-Verbindungsdaten über die beiden Kläger zu erheben und bereits gespeicherte Daten zu löschen – das Ende des auf Section 215 des Patriot Acts gestützten Daten-Sammel-Programms, jedenfalls soweit es die Kläger angeht.

Wie die New York Times meldet, veröffentlichte der Journalist Glenn Greenwald, der von Richard Snowden dessen NSA-Dokumente bekommen hat, eine Stellungnahme Snowdens zur Entscheidung des US-Gerichts:

„Ich habe in der Überzeugung gehandelt, dass die Massen-Überwachungsprogramme der NSA einer verfassungsrechtlichen Prüfung nicht standhalten würden und dass es das amerikanische Volk verdient hat, dass öffentliche Gerichte über diese Fragen entscheiden. Heute wurde festgestellt, dass ein geheimes Programm, das von einem geheimen Gericht genehmigt wurde, die Rechte der Amerikaner verletzt – nachdem es ans Tageslicht kam. Es ist das erste von vielen.“

Die Entscheidung des US-Bundesgerichts ist noch nicht dessen letztes Wort in der Sache – es handelt sich nur um eine vorläufige Entscheidung, bei der es darum ging, wie der Rechtsstreit später vermutlich ausgehen wird und ob die Kläger währenddessen wesentliche Nachteile in Kauf nehmen müssen. Außerdem setzte der Richter seine eigene einstweilige Anordnung sogleich vorläufig außer Vollzug, um der US-Regierung Gelegenheit zur Anfechtung zu geben. Allerdings lässt Judge Leon kaum einen Zweifel daran, wie er die Sache letztlich entscheiden wird: Er kauft der Regierung nicht ab, dass die Vorratsdatenspeicherung tatsächlich zur Terrorismus-Abwehr von Bedeutung sei – die Regierung habe schließlich keinen einzigen Fall nennen können, wo es auf diese Daten angekommen sei. Außerdem verurteilt er die Vorratsdatenspeicherung durch die NSA in seinem Beschluss als „Orwell-artig“ und verweist darauf, dass der Hauptautor der US-Verfassung, James Madison, wohl schockiert wäre, erführe er vom Ausmaß der Datenspeicherung.

Das historische Argument dürfte vor allem konservative amerikanischen Juristen beeindrucken, die besonders gern mit den Vorstellungen der „Founders“ argumentieren, etwa den schillernden Associate Justice des U.S. Supreme Court, Antonin Scalia. Was die Bewertung der NSA-Maßnahmen angeht ist die politische Landschaft in den USA in der Tat komplexer als man es sich oft vorstellt: Aus deutscher Perspektive erscheinen die Republikaner zwar als extrem konservativ. Zugleich aber gibt es auf der amerikanischen Rechten auch freiheitlich-liberale Politiker, die sich mit liberalen Demokraten schnell einig darüber werden, dass die Freiheitsrechte der Bürgerinnen und Bürger besser vor staatlichen Übergriffen geschützt werden sollten. Auch der erste Kläger im heutigen Fall, Larry Klayman, ist ein konservativer Bürgerrechtler. Die Aufarbeitung des NSA-Skandals wird noch manchen Testfall bieten, welchen Einfluss diese parteiübergreifende Strömung letztlich habe wird.

Aus deutscher Sicht ist schließlich ein Aspekt der Begründung des Gerichts besonders bemerkenswert: die Bedeutung, die das Gericht Verbindungs- bzw. Metadaten für die Privatsphäre zumisst. Vorratsdaten genießen in den USA seit einer Entscheidung des Supreme Court aus dem Jahr 1979 (Smith v. Maryland) eigentlich keinen (Daten-) Schutz. Das Gericht argumentierte damals, jeder wisse ja, dass die Telefonfirmen Verbindungsdaten speichern, also gebe es auch keine berechtigte Erwartung, dass diese Daten nicht von Behörden abgefragt werden. Judge Leon lässt diese Einschätzung aus heutiger Sicht nicht mehr gelten, denn Verbindungsdaten von (Mobil-)Telefonen hätten eine völlig andere Bedeutung als vor 34 Jahren:

„Datensätze, die einst nur ein paar verstreute Mosaiksteinchen über eine Person geliefert hätten, ergeben heute ein vollständiges Bild – ein lebendiges, sich ständig aktualisierendes Abbild des Lebens der Person.“

Ein Satz, den man der kommenden Großen Koalition ins Stammbuch schreiben möchte.

Wir wollen netzpolitik.org weiter ausbauen. Dafür brauchen wir finanzielle Unterstützung. Investiere in digitale Bürgerrechte.

flattr this!

November 11 2013

Überwachungsskandal: Wird es einen Freedom Act geben, der den NSA-Machenschaften ein Ende bereitet?

Im EU-Parlament fand heute erneut eine Sitzung des Untersuchungsausschusses zum Überwachungsskandal statt. Zu Gast war u.a. Jim Sensenbrenner, der Vorsitzender des Unterausschusses „Crime, Terrorism, Homeland Security, and Investigations“ im US-Repräsentantenhaus. Der Abgeordnete wurde eingeladen, da er ein Gesetz vorgeschlagen hat, welches künftige die ausufernde Überwachung der Geheimdienste unterbinden soll: Der Freedom Act. Schon der Name des Gesetzes soll als bewusste Korrektur des Patriot Acts verstanden werden, und versucht, die massenhafte, anlasslose Überwachung zu stoppen. Sensenbrenner war allerdings auch einer der entschiedenen Akteure bei der Verabschiedung des Patriot Acts, der die Überwachung überhaupt erst möglich machte.

Das Vorhaben, einen Freedom Act zu verabschieden, klingt gut und Sensenbrennener war zunächst auch sehr deutlich in seinen Worten und empörte sich ehrlich: „Die NSA ignoriert täglich das Gesetz“ oder „Die NSA hat ihre Freiheiten missbraucht“. Sensenbrenner möchte nun mit dem Freedom Act das schaffen, was schon der Patriot Act seiner Ansicht nach schaffen sollte: Ein ausgewogenes Verhältnis zwischen Freiheit und Sicherheit. „Es war nie die Absicht, der NSA zu erlauben, im Privatleben der ganzen Welt zu schnüffeln.“ , erklärte Sensenbrenner. Ohne eine begründeten Anfangsverdacht sollen keine großen Datenmengen mehr ausgewertet werden. Das klingt nach einem Fortschritt, doch der Teufel steckt im Detail. Zunächst ist gar nicht klar, ob der Freedom Act überhaupt angenommen wird, denn dieser hat zahlreiche Gegner. Das Repräsentantenhaus müsste etwa die Debatte um das Gesetz mit den Budgetverhandlungen um die Geheimdienste verknüpfen, damit der Vorschlag überhaupt eine Chance hat. Darüber hinaus bleibt unklar, was mit EU-Bürgern bzw. Bürgern außerhalb des Gebiets der USA passiert. Wird die Überwachung auch hier eingeschränkt? Sensenbrenner antwortete ausweichend und verwies etwa auf das Treffen der EU-Justizkommissarin Vivianne Reding und dem Justizminister Eric Holder nächste Woche, die sich mit dieser Frage auseinandersetzen sollten. Hoffnungen, dass sich durch diese Gespräche etwas ändert braucht man wohl eher nicht haben. Und auch der Ruf nach mehr Kontrolle klingt zunächst sehr sinnvoll und gut. Allerdings braucht es dafür auch ausreichende Ressourcen. Zudem sind sicher noch einige andere Bugs in dem doch recht umfangreichen Gesetzesvorschlag versteckt. Ihr könnt uns gerne bei der Analyse helfen (z.B. in den Kommentaren).

Wir wollen netzpolitik.org weiter ausbauen. Dafür brauchen wir finanzielle Unterstützung. Investiere in digitale Bürgerrechte.

flattr this!

November 01 2013

FISA Improvement Act macht alles nur noch schlimmer

Zu früh gefreut: Anfang der Woche haben wir noch darüber berichtet, dass Dianne Feinstein überraschenderweise die Abhörpraktiken der NSA kritisiert und uns gefragt, ob das ernst gemeint oder nur besänftigendes Theater war. Dass letzteres zutrifft, wissen wir jetzt immerhin mit Sicherheit. Feinsteins FISA Improvement Act wurde gestern im Geheimdienstausschuss des Senats mit einer Mehrheit von elf gegenüber vier Stimmen in geheimer Abstimmung bestätigt.

Zur Einführung des Gesetzesentwurfs sagte sie wiederholt, dass am aktuellen Vorgehen nichts falsch sei, man aber mehr tun müsse, um Transparenz zu schaffen und öffentlichen Rückhalt zu den Datenschutzmaßnahmen zu bekommen. Welche Maßnahmen denn, fragt man sich da.

Zunächst klingt alles sehr vielversprechend. In einer Zusammenfassung auf Feinsteins Webauftritt liest man:

[Das Gesetz] verbietet die massenhafte Sammlung von Kommunikationsdaten unter Absatz 215 des USA PATRIOT Act.

Großartig! Doch dann:

Außer unter speziellen Voraussetzungen und Beschränkungen, die das Gesetz festlegt.

Und schon ist es vorbei mit der Verbesserung. Die Beschränkung besteht im Wesentlichen darin, dass der Geheimdienstausschuss einem solchen Vorgang zustimmen muss. Wie bereitwillig das normalerweise getan wird, weiß man ja. Außerdem brauchte es auch vorher schon einer Genehmigung, z.B. durch das FISA-Gericht.

Weiter gehts:

… führt Strafen bis zu 10 Jahren Gefängnis für vorsätzlichen unbefugten Zugriff auf Daten ein, die unter FISA von den USA ermittelt wurden.

Widerrechtlicher Zugriff, was meint das? In der Regel sicher nicht den Zugriff durch Geheimdienstmitarbeiter, sondern – Whistleblower zum Beispiel. Praktisch.

… verbietet die massenhafte Sammlung von Kommunikationsinhaltsdaten unter Absatz 215 des USA PATRIOT Act.

Klingt gut, leider ist das nichts Neues. Es wurde schon mehrmals betont, dass man sowieso primär an Metadaten interessiert ist. Es wird also wieder einmal versucht, es so darzustellen, als ob Metadaten doch eigentlich gar nicht so schlimm seien.

Es folgen noch ein paar Absätze, wem die Geheimdienste in welchen Abständen Bericht erstatten müssen. Und dass es eine Dokumentation der Datensammlungen geben muss. Und dass die Anzahl der Menschen, die Zugriff haben, eingeschränkt wird. Alles Regelungen, die in leicht anderer Form bereits vorliegen. Probleme waren wohl bisher auch nicht die fehlenden Aufsichts- und Zugriffsregelungsmechanismen, auch wenn sie vielleicht wirklich unzureichend gewesen sein mögen. Problem ist doch vielmehr die konsequente Missachtung und großzügige Auslegung derselben.

Außerdem soll die Tiefe, bis zu der Kontakte analysiert werden, eingeschränkt werden. Auch das hat die NSA selbst schon auf 3 ‘Hops’ begrenzt, also werden von vornherein nur Kontakte über 3 Ecken untersucht. Wieder nichts Neues.

Selbst wenn es Details in der Gesetzesvorlage gibt, die Aufsicht über die Geheimdienste und den Zugriff auf Überwachungsdaten marginal verbessern, lässt sich ein Ziel ablesen:

Diejenigen Praktiken zu legalisieren und konkret in Gesetze zu gießen, die momentan noch auf einer überwachungsfreundlichen Lesart des PATRIOT Act fußen. Damit wäre jegliche Rechtsunsicherheit beseitigt und NSA und Co. könnten mithilfe der nun sicher formulierten Ausnahmeregeln und offizieller Genehmigungen weitermachen wie bisher.

Doch was bedeutet die Abstimmung im Ausschuss konkret? Ein kleiner (vereinfachter) Exkurs in die amerikanische Gesetzgebung:

 

Visualization-of-How-a-Bill-Becomes-a-Law_Mike-WIRTH

CC-BY-3.0 via wikimedia (Klick macht groß)

Im amerikanischen Gesetzgebungsprozess steht man damit noch relativ am Anfang des Prozederes. Als nächstes wird der Entwurf im Repräsentantenhaus diskutiert werden. Hier kann sich jeder Abgeordnete (mit straff begrenzter Redezeit) äußern. Nach diesen Aussprachen kommt es zu einer Abstimmung aller Abgeordneten und der Vorschlag wird an die Zweite Kammer, den Senat, übermittelt. Dort geschieht das gleiche noch einmal, wobei am Ende beide Kammern einem endgültigen Entwurf zustimmen müssen, der unter anderem durch einen Vermittlungsausschuss gebildet werden kann, wenn zu Beginn keine Einigung herrscht. Kommt es zu keiner Übereinkunft, verfällt der Gesetzesvorschlag an dieser Stelle.

Haben sich beide Kammern geeinigt, bekommt der Präsident das Ergebnis vorgelegt. Er kann dem nun entweder zustimmen oder ein Veto einlegen. Reagiert er gar nicht, tritt das Gesetz nach 10 Werktagen jedoch trotzdem automatisch in Kraft. Selbst ein Veto kann aber noch unwirksam gemacht werden, wenn Senat und Repräsentantenhaus dem mit Zweidrittelmehrheit widersprechen.

Das heißt: Konkret ist noch nichts besiegelt und es gibt zumindest ein wenig Hoffnung, dass es nicht soweit kommt. Die fokussiert sich im Moment vor allem auch auf einen konträren Gesetzesentwurf von Jim Sensenbrenner, den USA FREEDOM Act (Uniting and Strengthening America by Fulfilling Rights and Ending Eavesdropping, Dragnet Collection, and Online Monitoring Act).

Dieser Vorschlag des Republikaners Sensenbrenner, der den PATRIOT Act mitformuliert hatte, würde unter anderem einen unparteiische Schiedsperson aus der Zivilgesellschaft im FISA-Gericht etablieren, die ein Gegengewicht zu Regierung und Geheimdiensten bilden könnte.

Der Entwurf sieht auch einige echte Verbesserungen in der Aufsicht über die Geheimdienste vor, zum Beispiel hier:

[Das Gesetz] verpflichtet die Regierung jährliche oder halbjährliche Berichte herauszugeben, die eine Schätzung der Anzahl von Individuen und US-Personen geben, die zum Gegenstand von elektronischer Überwachung, Telefon- oder Geschäftdatenabfrage nach FISA wurden.

Aber auch im USA FREEDOM Act fehlt laut dem Juraprofessor Clark Asay leider eine Entfernung der Schutzlücke zwischen Inhalts- und Metadaten, sagte er Ars Technica gegenüber. Dennoch erfährt der Entwurf Unterstützung von verschiedenen Bürgerrechtsgruppen, unter anderem der American Civil Liberties Union.

Sensenbrenners Entwurf wurde bisher zunächst nur vorgestellt. Aber da auch in den USA die Stimmung gegenüber den NSA-Aktivitäten langsam negativer wird, bestehen gute Chancen, dass er die erste Zustimmungs-Hürde nehmen könnte.

 

Wir wollen netzpolitik.org weiter ausbauen. Dafür brauchen wir finanzielle Unterstützung. Investiere in digitale Bürgerrechte.

flattr this!

October 29 2013

NSA: James Clapper gibt weitere zehn Dokumente frei

480px-James_R._Clapper_official_portraitDer Direktor der US amerikanischen Geheimdienste James Clapper hat am Montag zehn weitere NSA Dokumente freigegeben. Die Freigabe beruht weniger auf Clappers angeblichen Bemühungen für mehr Transparenz zu sorgen, sondern sind direkt auf eine Freedom of Information Act Klage der US amerikanischen Electronic Frontier Foundation zurückzuführen. Einige der Dokumente legen weitere Interpretationen der umstrittenen Section 215 des USA PATRIOT Acts – eine Gesetzesänderung, die es US amerikanischen Geheimdiensten erlaubt umfassend und verdachtsunabhängig Telekommunikation zu überwachen.

  • Ein Memorandum zwischen NSA und dem Senate Select Committee on Intelligence (SSCI) belegt, dass die NSA in Kooperation mit einem Provider mindestens seit 26. April 2010 Standortdaten von Mobiltelefonen – zunächst zu Testzwecken – ausgewertet haben. Das Justizministerium (DOJ) hatte davon gewusst und die Erfassung unter dem FISA Gesetz genehmigt.
  • Seit 1. September 2011 wusste der zumindest der Justizausschuss des Senats der USA laut Memorandum, dass Verbindungsdaten (Meta-Daten) von Telefongesprächen zwischen zwei US-Bürgern im Inland abgefangen und analysiert werden. Auch dies wurde durch das Geheimdienstgericht (FISA Court) gebilligt.

[...] NSA has begun to acquire and analyze telephony metadata derived from cellular network or “mobility” call detail records (CDRs). The cellular telephony metadata is being produced pursuant to an order issued by the Foreign Intelligence Surveillance Court… for billed long distance telephone calls to or from landline telephones either (a) between the U.S. and abroad; or (b) wholly within the U.S., including local telphone calls.

  • In einem Brief von Dezember 2009 an Mitglieder des Justizausschusses des Senats betont das Justizministerium (DOJ), dass eine öffentliche Debatte über die umfassenden Überwachungsmaßnahmen durch Sektion 215 des USA PATRIOT Acts nicht erwünscht sei, da die nationale Sicherheit gefährdet sei.

Public disclosure of the highly classified uses of Section 215 authority, including the bulk collection program thereunder, is problematic… Because we are concerned that public disclosure would cause serious damage to national security, we cannot disclose publicly that Section 215 is used for bulk collection of telephony metadata.

  • Ein Protokoll vom selben Jahr illustriert, dass die Richter des Geheimdienstgerichts immer wieder Bedenken gegenüber der NSA geäußert haben in Bezug auf die Legalität des Programmes und der Einhaltung der gesetzlichen Schranken – vor allem bei der Beurteilung der Reasonable Articulable Suspicion (RAS). Dadurch, dass die Richter des FISC niemals die Gegenseite oder Bedenken hören, können sie kaum ehrlich abwägen, ob tatsächlich Überwachung zu weit geht. Und somit findet keine effektive Kontrolle der Geheimdienste statt.
  • Ein Memorandum von Februar 2009 an das Select Committee on Intelligence zeigt, wie wenig diese Memoranden eigentlich sagen: Die Quintessenz aus drei Seiten Text ist, dass die NSA ‘kleinere Probleme’ bei der Einhaltung der Auflagen und aufgezeigten Schranken des Geheimdienstgerichts hatte. Man würde aber eng mit dem Justizministerium zusammenarbeiten, um die Programme entsprechend abzuändern.

NSA and DOJ have already identified a number of steps designed to improve the Agency’s ability to comply with the relevant orders and implementation of these changes has begun.

NSA needs access to telephony business records in bulk so that it can quickly identify the network of contacts that a targeted number is connected to, whenever a targeted number is detected. NSA identifies the network of contact by applying sophisticated analysis to this metadata. The more metadata NSA has access to, the higher the chances are that NSA can identify or discover the network of contacts linked to targeted numbers.

Im Vergleich zu den ersten Veröffentlichungen durch den Dirctor of National Intelligence, durch die u.a. das erste Mal die rechtliche Interpretation des Patriot Acts an die Öffentlichkeit gelangte, sind die jetzigen Dokumente eher als Bestätigung einiger Vermutungen zu sehen. Wir wussten all das schon durch Snowdens Enthüllungen. Allerdings sind diese offiziellen Dokumente essenziell für die weitere politische Diskussion. So ist ein weiteres Mal durch diese Dokumente eindeutig belegt, dass DNI James Clapper vor dem Kongress gelogen hat.

Ebenso hatte Barack Obama gelogen, als er in Jay Lenos Show sagte, es würden keine Amerikaner überwacht werden.

There is no spying on Americans.

Die Dokumente verdeutlichen außerdem das grundlegende Problem der Aufsicht und Kontrolle der geheimdienstlichen Aktivitäten. Ein Richter des US amerikanischen Geheimdienstgerichtes, Reggie B. Walton, sagte gegenüber der Washington Post, dass das Gericht selbst keine Untersuchungen einleiten könne und auf die durch die NSA vorgelegten Informationen angewiesen sei. Somit ist vorprogrammiert, dass es zu keiner echten Aufsicht und scharfen Kontrolle kommt – sondern eher zum ‘Abnicken’.

The FISC is forced to rely upon the accuracy of the information that is provided to the Court. The FISC does not have the capacity to investigate issues of noncompliance, and in that respect the FISC is in the same position as any other court when it comes to enforcing [government] compliance with its orders.

Gerade deswegen kann man nur hoffen, dass der neu vorgeschlagene USA FREEDOM Act der US Senatoren Sensenbrenner und Leahy große Unterstützung findet.

Wir wollen netzpolitik.org weiter ausbauen. Dafür brauchen wir finanzielle Unterstützung. Investiere in digitale Bürgerrechte.

flattr this!

Und weitere Ideen zur NSA-Affäre

Am Sonntag hatten wir ja bereits über diverse diskutierte Konsequenzen im Umgang mit der NSA-Affäre berichtet. Vom Untersuchungsausschuss bis zum Aussetzen der Verhandlungen zum Freihandelsabkommen war vieles dabei. Aber zwei Tage, in denen jetzt auch noch überraschenderweise bekannt geworden ist, dass auch in Spanien und Italien Telefone abgehört wurden (obwohl das bereits vor einer Woche auf cryptome.org bekannt gemacht wurde…) fördern neue Einfälle.

Zu den neuesten Ideen gehören:

Innenminister Friedrich will potentiell in die Bespitzelungen involvierte Diplomaten des Landes verweisen.

Bernd Riexinger, Vorsitzender der Linkspartei, fordert wirtschaftliche Konsequenzen und will nicht nur das Freihandelsabkommen aussetzen, sondern US-Internetfirmen, die in Deutschland sehr umsatzstark sind, Strafsteuern auferlegen. Gegenüber Handelsblatt Online sagte er:

Konkret hieße das: wir belegen direkte und indirekte Kapitalabflüsse in Steueroasen mit hohen direkten Steuern. [... Zudem wäre] das Geschäftsmodell auf Kosten der Steuerzahler von Amazon und Co. erledigt, und die NSA würde wichtige Partner beim Datenschnüffeln verlieren.

Und auf amerikanischer Seite? Man versucht, vielleicht doch noch so dazustehen, als hätte man nichts von der Überwachung von Regierungsvertretern gewusst.

Obama kommt sogar auf die großartige Idee, (zu behaupten,) die Geheimdienstarbeit überprüfen zu wollen. Er sagte gestern:

Ich starte nun eine Überprüfung, um sicherzugehen, dass das, was sie tun könnten nicht gleichbedeutend ist mit dem, was sie letztlich tun.

Eine etwas überraschendere Stellungnahme stammt allerdings von Diane Feinstein, Vorsitzende des Senate Intelligence Committee, das als Legislativ-Aufsicht die US-Geheimdienste überwachen soll. Am 26. September klang das noch so:

Ich bin der Meinung, dass die Überwachungen, die unter FISA durchgeführt werden, und andere Programme der NSA rechtens sind. Sie sind wirksam und stehen unter gründlicher Aufsicht innerhalb der NSA, des Justizministeriums und des Direktor der nationalen Nachrichtendienste und des FISA-Gerichts und des Kongresses.

Seit gestern klingt das nun so:

Bezüglich der Sammlung von Geheimdienstinformationen über Führer von US-Verbündeten – unter ihnen Frankreich, Spanien, Mexiko und Deutschland – lassen Sie mich unwiderruflich sagen: Ich bin vollkommen dagegen.

Ernster Meinungswechel oder nur ein Versuch, den Kopf aus der Schlinge zu ziehen, bevor noch mehr ans Licht kommt? Nachdem dann auch noch die Electronic Frontier Foundation ein Dokument veröffentlicht hat, dass die Sammlung vom Mobilfunk-Ortsdaten durch die NSA beweist, ohne dass diese überhaupt vorher die Erlaubnis des FISA-Gerichts erfragt hätte.

Aber vielleicht hat Feinsteins Äußerung ja zumindest einen Einfluss auf die Durchsetzung des US Freedom Act, der heute als Gesetzesentwurf vorgestellt wird.

Eingebracht wird dieser von dem konservativen Republikaner Jim Sensenbrenner, der seinezeit selbst am Patriot Act mitformuliert hatte. Der US Freedom Act, der am 10. Oktober angekündigt wurde, will jedoch die Geheimdienstkompetenzen stark begrenzen und reformieren.

Einer, der immer noch unbelehrbar an der Verteidigungstaktik festhält und die Presse endlich zum Schweigen bringen will, ist der britische Premierminister David Cameron. Er droht mit Konsequenzen aus der Regierung, falls Zeitungen und andere Nachrichtenmedien weiterhin Enthüllungen von Snowden veröffentlichen. Und dem Guardian wirft er wieder einmal vor, schädliche Materialien zu verbreiten, nachdem er bereits in die Festplattenlöschungen bei der Zeitung involviert gewesen sein sollte.

Wir wollen netzpolitik.org weiter ausbauen. Dafür brauchen wir finanzielle Unterstützung. Investiere in digitale Bürgerrechte.

flattr this!

September 27 2013

NSA: Utah, LOVEINT, Patriot Act und Martin Luther King

nsa-squareEs gibt mal wieder einige Neuigkeiten von der NSA. Zum einen ist das neue Datenzentrum der NSA in Utah wohl schon in Betrieb. Außerdem belegt nun ein neues Dokument, dass es immer wieder zum Missbrauch der NSA Überwachungssysteme durch Mitarbeiter kam – vor allem um (Ex-)Lebenspartnerinnen nachzuspionieren. Dann gibt es zwei neue Gesetzesentwürfe, zur strikteren Kontrolle der NSA und Anwendbarkeit des Patriot Acts – jedoch nur mit dem Fokus auf US Amerikanische Kommunikation. Zu guter letzt wären da noch Muhammed Ali und Martin Luther King, Jr. – beide wurden durch die NSA schon in den 1960er Jahren überwacht.

 

Das Utah Data Center. Quelle: Wired.

Das Utah Data Center. Quelle: Wired.

Utah Data Center der NSA
Wir hatten schon vor einiger Zeit über das neue Datenzentrum der NSA berichtet. Dieses ist nun wohl in Betrieb gegangen – wenn auch wahrscheinlich noch nicht vollständig. Das etwa 93.000qm große Gebäude – wovon rund 9.000qm ausschließlich Server sind – hat 1.5 Milliarden USD gekostet. Das Zentrum in Utah ist damit das größte Datenzentrum der NSA weltweit und einer von vier Haupt-Stützpunkten zur Datenanalyse und Abspeicherung. Utah ist damit einer der Eckpfeiler des Global Information Grid der NSA, das bis 2015 in der Lage sein soll Yottabytes zu verarbeiten.

 

2013-09-26t191638z_2123038863_gm1e99r090p01_rtrmadp_3_usa-photoblog600

Gen. Keith Alexander

Love Intelligence
Ein neues, von der NSA veröffentlichtes Dokument belegt, dass es seit 2003 mindestens 12 Fälle gab, in denen NSA Mitarbeiter ihre Machtpositionen und technischen Möglichkeiten bewusst ausgenutzt haben, um Ex-Freunde und Ex-Freundinnen, Lebenspartner und andere “interessante” Leute auszuspionieren.

  • Eine NSA Mitarbeiterin überwachte 2004 das Telefon ihres Mannes und schnitt Telefongespräche mit. Ihr Verdacht war, dass er untreu sei.
  • Von 1998 bis 2003 überwachte ein NSA Mitarbeiter 9 Telefonnummern von Frauen, mit denen er in der Zeit Verhältnisse hatte oder einfach an ihnen interessiert war.
  • 2011 gab eine NSA Mitarbeiterin zu das NSA Programm zu nutzen, um Personen zu überprüfen, die sie erst seit kurzem kenne.
  • Ein anderer Mitarbeiter nutzte die Mitschnitte ausländischer Telefongespräche eines bestimmten Landes, angeblich um schneller die Sprache zu lernen.

Was man sich vor Augen halten muss, ist die Tatsache, dass diese Menschen – obwohl entsprechend ausgebildet – durch die enormen technischen Möglichkeiten der Versuchung schlichtweg nicht widerstehen konnten. Das ist ein ganz grundsätzliches Problem der Überwachungstechnologie, was man auch immer wieder in den entsprechenden Anhörungen und Ausschüssen sieht: Dadurch, dass man die technischen Möglichkeiten hat alle Daten zu sammeln, will man dies auch tun. Wenn man erstmal die Daten hat, will man sie auch “nutzen” und wissen, was für Informationen in ihnen stecken. Hat man erstmal die Informationen, wird man sie nicht wieder verwerfen. In jedem dieser Schritte (Datenerhebung, -speicherung, -analyse) steckt großes Potenzial zum Missbrauch. General Keith Alexander, Direktor der NSA, formuliertes es am “besten” am Donenrstag. Totale Überwachung für totale Kontrolle.
Senator Mark Udall

Is it the goal of the NSA to collect the phone records of all Americans?

NSA General Keith Alexander

I believe it is in the nation’s best interests to put all the phone records into a lockbox that we could search when the nation needs to do it, yes.

 

Gesetzesänderung des Patriot Act in den USA

4445940f7bf983203e0f6a706700409c

Sen. Feinstein

Der Intelligence Oversight and Surveillance Reform Act ist die bisher umfassendste und erstmalig von beiden Parteien (3 Demokraten, 1 Republikaner) vorgeschlagene Gesetzesänderung. Vorgeschlagen wurde der Entwurf durch die Demokraten Ron Wyden, Mark Udall und Richard Blumenthal und den Republikaner Rand Paul. Auch wenn zur Zeit wohl einige Gesetzesentwürfe im US amerikanischen Senat aufgetaucht sind, handelt es sich bei vielen nur um “kosmetische” Änderungen. Allen gemein ist jedoch der Umstand, dass es in keinem Fall um das Eindämmen der verdachtslosen und umfassenden Überwachung von Telekommunikation im Ausland geht. Alles Entwürfe beziehen sich ausschließlich auf Überwachung auf US amerikanischem Boden.

Der Gesetzesentwurf würde es der NSA verbieten ohne Verdacht massenhaft Telefonate abzuhören und die Meta-Daten abzuspeichern. Dies dürfte nur noch in begründeten Verdachtsfällen ganz gezielt und ausschließlich im Zuge der Terror- oder Spionageabwehr geschehen. Gleiches gilt für die Überwachung des E-Mail Verkehrs – Meta-Daten dürfen nicht mehr gesammelt werden. Weiterhin enthält der Entwurf Reformen für das umstrittene Geheimdienst-Gericht (FISA Court). Hier soll ein unabhängiger “Constitutional Advocat” eingesetzt werden, um bei Entscheidungen die Bürger- und Menschenrechte zu vertreten. Außerdem würde sich das Gericht dazu verpflichten grundlegende Entscheidungen im Nachhinein zu veröffentlichen. Letztlich würde der Entwurf auch die sogenannten “gag orders” (Maulkorberlass) stark abschwächen, sodass Unternehmen Statistiken veröffentlichen dürfen, wie viele Anfragen durch Geheimdienste bzgl. Kunden-Informationen sie erhalten haben. (Microsoft, Yahoo, Facebook und Google klagen genau deswegen zur Zeit)

Es wäre illusorisch zu glauben, dass die US Regierung von sich aus die Geheimdienst-Aktivitäten im Ausland eindämmt. Daher war es abzusehen, dass die entsprechenden Gesetzesentwürfe ausschließlich die Überwachung US amerikanischer Bürger eindämmen wollen. Trotzdem ist es ein wichtiger erster Schritt und vor allem ist es wichtig, dass es damit zum ersten mal einen Entwurf gibt, der sowohl von Demokraten, als auch Republikanern eingereicht wurde.

Natürlich gibt es auch Gegenwehr: Senator Feinstein (derzeitige Vorsitzende des Geheimdienst-Komitees) und Senator Chambliss haben schon einen eigenen Gesetzesentwurf angekündigt, der eher in die Kategorie “kosmetische Änderungen” fallen würde. Er würde lediglich zu etwas mehr Transparenz führen, jedoch nicht die grundsätzlichen Probleme lösen. Und für uns Nicht-US Bürger im Ausland wäre der Entwurf sogar ein Rückschritt, da die USA dadurch sogar noch mehr Zeit erhält, uns auszuspähen, falls wir in die USA reisen. Achja, Sen. Feinstein ist auch der Meinung, dass die Presse aufhören sollte von einem “Überwachungsprogramm” zu reden, da ja gar keine überwacht wird – nur Meta-Daten werden analysiert.

 

NSA in Zeiten des Vietnam-Krieges

Martin_Luther_King_Jr_NYWTS

Martin Luther King

Diese Woche musste die NSA auch sehr, sehr alte Dokumente veröffentlichen, die belegen, dass sie schon in den 60er und 70er Jahren ähnlich illegale Methoden angewandt hatte, wie sie das heute macht. Die Dokumente belegen, dass die NSA Journalisten, Aktivisten und sogar Senatoren der eigenen Regierung vollständig überwachte. Ziel war die immer stärkere Ablehnung des Vietnam-Krieges innerhalb der Bevölkerung einzudämmen. Neben Muhammed Ali, Martin Luther King, Jr. oder Senator Frank Church wurden auch Tom Wicker der New York Times und Art Buchwald der Washington Post überwacht.

The agency went to great lengths to keep its activities, known as operation Minaret, from public view. All reports generated for Minaret were printed on plain paper unadorned with the NSA logo or other identifying markings other than the stamp “For Background Use Only”. They were delivered by hand directly to the White House.

Foreign Policy schreibt

The NSA now admits that at the height of the Minaret program in late 1969, almost 150,000 telephone calls, telexes, and cables were being intercepted and analyzed at the NSA every month. The NSA history also doesn’t reveal what information about these targets the NSA extracted from these intercepts and sent on to the White House. According to declassified NSA documents, between 1967 and 1973 the agency issued approximately 1,900 intelligence reports…

The intelligence reforms of the 1970s were partly driven by the CIA and NSA abuses of the period, including Minaret, Chaos, and others. The purpose of oversight was to serve as a check on executive power, because it was the will of presidents that had driven the illegal activity.

Wir wollen netzpolitik.org weiter ausbauen. Dafür brauchen wir finanzielle Unterstützung. Investiere in digitale Bürgerrechte.

flattr this!

July 25 2013

USA: Kongress lehnt in knapper Abstimmung Machteinschränkung der NSA ab

Gestern berichteten wir über eine Abstimmung im amerikanischen Kongress, bei der über eine Gesetzesänderung entschieden wurde, die die Macht der NSA eingeschränkt hätte. Wie nicht anders zu erwarten wurde die Gesetzesänderung abgelehnt, wenn auch, wider erwarten, denkbar knapp mit 205 zu 217 Stimmen. Umso ärgerlicher sind die exakt 12 Enthaltungen, die bei Zustimmung zur Gesetzesänderung, zu einem Patt geführt hätten.

Der vom republikanischen Abgeordneten Justin Amash eingebrachte Änderungsantrag sah es vor, dass Sammeln und Speichern von Daten US-amerikanischer Bürger durch die NSA einzuschränken. Hierzu sollte gesetzlich festgeschrieben werden, dass die NSA Daten einer Person nur noch sammeln und verarbeiten darf, wenn gegen die Person bereits eine Untersuchung nach Abschnitt 215 des Patriot Acts stattfindet. Zum jetzigen Zeitpunkt darf die NSA alle “für eine Untersuchung relevanten Daten” sammeln, was nach Interpretation des geheimen FISA-Gerichts, die Sammlung von Daten nahezu aller US-Bürger ermöglicht.

In der gestrigen Abstimmung votierten 205 Abgeordnete, davon 94 Republikaner und 111 Demokraten, im Kongress für die Gesetzesänderung und 217 Abgeordnete, davon 134 Republikaner und 83 Demokraten, gegen den Änderungsantrag. 12 Abgeordnete enthielten sich, was auf Grund des knappen Ergebnissen umso ärgerlich ist. Eine genaue namentliche Übersicht über JA- und NEIN-Stimmen sowie Enthaltungen sind hier zu finden.

Für Menschen außerhalb der USA hätte aber auch eine Zustimmung der Abgeordneten zu der Gesetzesänderung kaum spürbare Folgen gehabt. Wie bereits gestern dargelegt, handelt es sich bei dem Vorstoß von Justin Amash in erster Linie um eine Machteinschränkung für die NSA bei der Spionage im Inland. Die Überwachung und Sammlung von Daten von nicht amerikanischen Bürgern wäre von dem Änderungsantrag nicht betroffen gewesen.

Wir wollen netzpolitik.org weiter ausbauen. Dafür brauchen wir finanzielle Unterstützung. Investiere in digitale Bürgerrechte.

flattr this!

June 21 2013

Neue Dokumente beweisen: Auslandsgeheimdienste wie die NSA können nicht demokratisch kontrolliert werden

Der Sitz des FISA Courts in Washington DC. Bild: AgnosticPreachersKid. Lizenz: Creative Commons BY-SA 3.0.

Der Sitz des FISA Courts in Washington DC. Bild: AgnosticPreachersKid. Lizenz: Creative Commons BY-SA 3.0.

Die NSA überwacht und speichert die weltweite Kommunikation ganz ohne echte richterliche oder gar öffentliche Kontrolle. Das wird jetzt durch zwei neue Dokumente von Justizministerium und geheimen Gerichten belegt, die der Guardian veröffentlicht hat. Besonders pikant: Verschlüsselte Kommunikation steht unter Generalverdacht – und wird gespeichert, bis der NSA sie entschlüsseln kann.

Glenn Greenwald hat wieder zugeschlagen. Zusammen mit James Ball hat er im Guardian zwei streng geheime Dokumente des FISA Courts veröffentlicht, die wir hier mal gespiegelt haben:

Die Dokumente widerlegen gleich zwei offizielle Rechtfertigungen der umfassenden NSA-Überwachung: dass das alles nur auf richterliche Anordnung erfolge und dass keine US-Bürger betroffen seien.

Alibigericht FISA Court

Die Papiere wurden von Generalbundesanwalt Eric Holder im Juli 2009 unterschrieben und beim geheimen “Gericht betreffend die Überwachung der Auslandsgeheimdienste” (FISA Court) eingereicht. Marc Pitzke beschreibt auf Spiegel Online, dass dieses Gericht nur ein ultrageheimes, alibihaftes “Schattengericht” ist und die meisten Anträge der Regierung kommentarlos durchwinkt.

Die amerikanische Regierung und die bei PRISM teilnehmenden Internet-Konzerne haben immer wieder betont, dass sie Daten nur auf richterliche Anweisung herausgeben. Dafür veröffentlichen sie auch Zahlen, dass es “nur” zehntausende Gerichtsanweisungen pro Firma und Jahr gibt. Das Problem dabei ist, dass schon ein einziger Beschluss das komplette Absaugen aller Daten eines Anbieters erlaubt. Der PATRIOT Act (Absatz 215) und der FISA Amendments Act (§ 702) machen’s möglich.

Wenn die Daten einmal bei der NSA sind, werden sie von den Analysten auch verwendet, also E-Mails gelesen, Skype-Gespräche gehört, Fotos angeguckt und so weiter. Ob sie das im einzelnen dürfen, unterliegt demnach fast ausschließlich im Ermessen des einzelnen Analysten, er ist weder seinem Vorgesetzten, noch Gerichten oder anderer demokratischer Kontrolle Rechenschaft schuldig. Kein Wunder, dass der Whistleblower Edward Snowden sagt:

Ich, an meinem Schreibtisch, hatte die Möglichkeit, jeden abzuhören: dich, deinen Steuerberater, einen Bundesrichter oder sogar den Präsidenten, wenn ich seine E-Mail Adresse habe.

Auch US-Bürger betroffen

Das nur für die amerikanische Öffentlichkeit relevante Argument, dass die NSA ja keine US-Bürger abhören darf, wird auch widerlegt. Wie gesagt: Die NSA sammelt erst einmal alles von allen, wie auch das Abschnorcheln aller Verbindungsdaten von Mobilfunkanbietern wie Verizon zeigt. Theoretisch müssen Kommunikationsverkehre, bei denen bestätigt ist, dass einer der Beteiligten ein US-Bürger ist, gelöscht werden. Das gilt aber nicht, wenn die NSA behaupten kann, dass sie aus großen Datensätzen die Kommunikation von Amerikanern nicht aus den anderen herausfiltern kann. Also eine Generalvollmacht.

Ob US-Bürger betroffen sind, kann an dem Ort der Kommunikation (IP-Adresse, Funkzelle, …) festgemacht werden. Wenn es keine Hinweise auf einen Ort gibt, nimmt man einfach an, dass es nicht in den USA ist. Falls es doch einen Hinweis gibt, können die Kommunikations-Inhalte trotzdem eingesehen werden, um die These auch zu überprüfen.

Und falls dann in den Inhalten verwertbare Geheimdienstinformationen, Informationen über kriminelle Aktivitäten oder Gefahren für Personen oder Eigentum, oder auch irgendwelche Informationen über Cybersicherheit sind, kann man sie wieder legal speichern. Sogar, wenn besonders geschützte Kommunikation betroffen ist, wie etwa mit Anwälten.

Verschlüsselung ist verdächtig

Eine weitere Ausnahme gilt, wenn die Kommunikation verschlüsselt ist. Dann darf diese so lange gespeichert werden, bis die NSA sie in einer Kryptoanalyse verwenden kann.

Dan Goodin betont diesen Punkt auf Ars Technica nochmal: Wer Anonymisierung wie Tor verwendet, wird gespeichert, egal ob US-Bürger oder nicht, weil man damit nicht nachweist, wo man ist. Und wer seine Kommunikation verschlüsselt wie mit OTR oder OpenPGP, dessen Kommunikation ist verdächtig und wird so lange gespeichert, bis die NSA sie entschlüsseln kann.

Ich muss nochmal auf meinen ersten Kommentar zu PRISM verweisen: America, fuck yeah!

Wir wollen netzpolitik.org weiter ausbauen. Dafür brauchen wir finanzielle Unterstützung. Investiere in digitale Bürgerrechte.

flattr this!

June 02 2013

USA: Google muss Daten auch ohne richterlichen Beschluss an das FBI geben

Google muss dem FBI Kundendaten aushändigen, auch wenn kein richterlicher Beschluss vorliegt oder Gründe genannt werden – so urteilte eine Bundesbezirksrichterin in San Francisco nun. Bereits Anfang Mai wurden Pläne für ein Gesetz bekannt, mithilfe dessen Unternehmen bestraft werden sollen, die auf Anfrage von Sicherheitsbehörden nicht kooperieren und Daten liefern. Die Richterin lehnte nun die Beschwerde von Google ab, 19 sogenannte National Security Letters (NSL) nicht beantworten zu wollen bzw modifizieren zu können. Mithilfe der NSL kann das FBI ohne richterlichen Beschluss Zugriff auf Kundendaten fordern und die betroffenen Unternehmen dürfen nicht darüber berichten. Laut Richterin Susan Illston habe sich Googles Einspruch zu sehr gegen NSL im Allgemeinen gewandt und nicht gegen die 19 konkreten Fälle. Dies könnte also eine Hintertür für einen weiteren Einspruch sein. Illston hatte im März in einem anderen Verfahren entschieden, dass die Geheimhaltungsvorschriften rund um die NSL nicht mit der Verfassung vereinbar sind.

Wir wollen netzpolitik.org weiter ausbauen. Dafür brauchen wir finanzielle Unterstützung, auch um weiterhin einen Full-RSS-Feed anbieten zu können. Investiere in digitale Bürgerrechte.

flattr this!

Older posts are this way If this message doesn't go away, click anywhere on the page to continue loading posts.
Could not load more posts
Maybe Soup is currently being updated? I'll try again automatically in a few seconds...
Just a second, loading more posts...
You've reached the end.

Don't be the product, buy the product!

Schweinderl