SuMa-Blogger

Ein Bild sagt mehr als 1000 Worte:

Aber als Unworte des Jahres schlage ich vor:

Weihnachtsstress + Weihnachtstauwetter

Frohe Weihnachten und einen guten Start nach 2010!

Wolfgang Sander-Beuermann

Es hat realtiv lange gedauert, aber nun endlich hat der Funke aus Österreich auch an deutschen Universitäten und Hochschulen gezündet: es ist Zeit für Veränderungen, für Weiterentwicklung! Woher sollen diese Entwicklungen denn auch kommen, wenn nicht aus den Hochschulen? Von der derzeitigen schwarz-gelben Bundesregierung als reine Machtsicherungsinstitution mit neoliberalen Attitüden der vergangenen Jahrzehnte doch bestimmt nicht. Es gibt genug Probleme in Gesellschaft und Wissenschaft, die mit neuen Ideen und Visionen angegangen werden müssten: Forschung, Lehre, Mitbestimmung an den Hochschulen, Auseinanderfallen der Gesellschaft durch immer krassere arm-reich Gegensätze uvam. - aber wo sind die politischen Perspektiven dazu?? Ich sehe keine.

Darum ist es gut, dass an den Hochschulen etwas geschieht, auch wenn es sich zunächst "nur" auf deren eigenes Gebiet bezieht.

About the talk: It has become very easy to create, publish, and collect data in digital form. The volume of structured and unstructured data is increasing at tremendous pace. This has led to a whole new set of applications that can be build if one solves the problem of turning raw data into valuable information.

Vortrag von Dr. Wolfgang Sander-Beuermann, Sonntag, 10. Mai 2009, beim FoeBuD e.V. im Bunker Ulmenwall in Bielefeld (Kreuzstraße 0, 33602 Bielefeld)

Der aktuelle Stand der Suchmaschinen-Technologie wird plausibel vor dem Hintergrund seiner Entwicklungsgeschichte und der des Internet. Die momentane Lage, die gekennzeichnet ist durch das Googlesche Quasimonopol, ist nur folgerichtiges Produkt dieser Entwicklung.

Der Übergang zwischen Suchmaschine und allgemeiner Internet-Platform, früher meist Portal genannt, ist fließend. Auch Google ist längst viel mehr als Suchmaschine. Ein Großteil des Zukunftskapitals liegt möglicherweise gar nicht mehr in der Suchfunktionalität, sondern in der Nutzung der Schwarmintelligenz [1] durch hohen Nutzerzahlen. Ein erstes Beispiel dafür ist Google-Flu [2].

Yahoo oeffnet seine Suche mit einem neuen Service, "Build your Own Search Service" (BOSS), weiter als je zuvor. Yahoo hat bereits mit Search Monkey, eine zwar nicht 100% offene, aber zusammenklickbare individuelle Suchmaschine geschaffen. Auch Nutzer anderer Dienste konnten bei Eurekster, Rollyo, Microsoft und Google persönliche Suchdienste zusammenklicken. "Allerdings sind alle diese Dienste in irgendeiner Weise eingeschränkt; vollen Zugriff auf den Index erhalten die Nutzer nicht." (heise.de).

BOSS (Build your Own Search Service) is Yahoo!'s open search web services platform. The goal of BOSS is simple: to foster innovation in the search industry. Developers, start-ups, and large Internet companies can use BOSS to build and launch web-scale search products that utilize the entire Yahoo! Search index. BOSS gives you access to Yahoo!'s investments in crawling and indexing, ranking and relevancy algorithms, and powerful infrastructure. By combining your unique assets and ideas with our search technology assets, BOSS is a platform for the next generation of search innovation, serving hundreds of millions of users across the Web. (11.7.2008, http://developer.yahoo.com/search/boss/)

Sind wir mit der derzeitigen Entwicklung bei Yahoo auf dem Weg zu freien Suchmaschinen und offenen Zugang zu Suchtechnologien? Wie Semager kuerzlich berichtete benutzt Yahoo bereits Open Source Suchsoftware fuer seine Webmap.

Hadoop Now at the Heart of Every Yahoo! Search ... On a very related note, we're announcing today that we implemented what we believe is the world's largest commercial application of Apache Hadoop. We are now using Hadoop to process the Webmap -- the application which produces the index from the billions of pages crawled by Yahoo! Search. (19.2.2008, http://www.ysearchblog.com/archives/000521.html)

Wie VentureBeat berichtet will Microsoft die semantische Suchmaschine Powerset für 100 Millionen US-Dollar oder moeglicherweise noch hoeher kaufen und hofft damit Google und Yahoo paroli zu bieten.

By buying Powerset, Microsoft is hoping to close the perceived quality gap with Google’s search engine. The move comes as Microsoft CEO Steve Ballmer continues to argue that improving search is Microsoft’s most important task. Microsoft’s market share in search has steadily declined, dropping further and further behind first-place Google and second place Yahoo. (Matt Marshall, June 26th, 2008, http://venturebeat.com/2008/06/26/micr...)

 Die Suchmaschine Suchmaschine Powerset durchforstet momentan ausschliesslich Wikipedia die Datenbank Freebase. Eine Besonderheit ist, dass sie natuerlich formulierte Fragen versteht. Die Technologie ist jedoch bei weitem noch nicht ausgereift und funktioniert offensichtlich gerade aus dem Grund, dass Wikipedia als hauptsaechliche Quelle herangezogen wird. Die Wikipedia ist meist gut betreut und logisch aufgebaut. Inwieweit Suchausgaben auch von anderen Webseiten gute Ergebnisse liefern werden, bleibt abzuwarten.

Im Gegensatz zu Powerset hat Google bisher keine oeffentlichen Versuche mit Suchanfragen in natuerlicher Sprache unternommen.

Google has generally dismissed Powerset’s semantic, or “natural language” approach as being only marginally interesting, even though Google has hired some semantic specialists to work on that approach in limited fashion.  (Matt Marshall, June 26th, 2008, http://venturebeat.com/2008/06/26/micr...)

 

Michael Imbeault, ein HIV-Forscher an der Université Laval in Quebec, hat eine automatisierte Newsseite und Suche namens e! Science News ins Netz gestellt. Wie er auf drupal.org berichtet, weil er unzufrieden mit den anderen computergenerierten News-Portalen wie Google News oder Yahoo News war

Die Website wird ausschliesslich auf Grundlage von freier GPL lizensierter Software betrieben und weiter entwickelt. Die Basis bilden Drupal und Sphinx, eine Volltext-Suchmaschine.

Sphinx is a full-text search engine, distributed under GPL version 2. Commercial license is also available for embedded use. Generally, it's a standalone search engine, meant to provide fast, size-efficient and relevant fulltext search functions to other applications. Sphinx was specially designed to integrate well with SQL databases and scripting languages. Currently built-in data sources support fetching data either via direct connection to MySQL or PostgreSQL, or using XML pipe mechanism (a pipe to indexer in special XML-based format which Sphinx recognizes). (Abruf 28.6.2008, Andrew Aksyonoff, http://www.sphinxsearch.com/about.html)

Drupal setzt in der Regel auf einem sogenannten LAMP-System aus Gnu/Linux, Apache, MySQL und Php auf. In dem Beitrag auf drupal.org beschreibt Michael Imbeault die Entstehung der Newssite, gibt Hinweise fuer den Selbstbau einer derartigen Website und spricht ueber seine "Lessons learned".

Here are a few lessons I learned in no particular order

• Finding a good domain name is hard and takes time (and / or money) – start early and never stop searching, even if you got one or 2 good ones! You might find something even better.
• Backup everything often! Especially on Windows.
• Think simple; more is often less – do only what your users actually need / want as a starting point
• Don’t be afraid to redo something from scratch if it’s not working right the first time around - I rebuilt critical components of the clustering system days before launch
• Drupal is a market disrupting tool – it allows a single guy part time to build something great while learning it; imagine what a whole team of professionals can do!
• I wish I knew about simpletest a year ago; I chased bugs for a long time (and sometimes the same bug that was reoccurring). Things like clustering and regex-based parsing could have been a whole lot easier with appropriate tests.
• Release early; don’t be afraid to put off minor features to later
• Keep a todo list through the process, and try to remove items from it as fast as they appear! (this is not as easy as it sounds!)
• You know you built something great when you visit your own site and find it interesting :)

(http://drupal.org/node/261340)

Grant Ingersoll, Entwickler bei Lucene, Solr und Mitbegründer von Mahout, hat zwei interessante Beitraege zum Thema freie Evaluierungsdaten geschrieben.

• Open Source Search Engine Relevance, (May 18th, 2008)
• Open Source Search Relevance Follow Up, (May 22nd, 2008)

Es geht dabei darum, dass Entwickler z.B. von freien Suchmaschinen zur Evaluierung ihrer Software freie Testdaten benötigen. Im Falle einer Suchmaschine heißt das, ich brauche einen Korpus von Webseiten sowie eine Reihe von Queries. Für jede der Queries brauche ich Informationen darüber, welche Dokumente für die Query relevant sind und welche nicht. Die Erstellung solcher Testdaten ist üblicherweise relativ zeitintensiv. Dennoch existieren solche Testdaten sogar in relativ großem Umfang, sind allerdings nur zu Forschungszwecken zugänglich. Die Verwendung der Daten als privater Entwickler dagegen gestaltet sich relativ kostspielig. Grant regt ... an, solche Evaluierungsdaten allgemein zugänglich zu machen bzw. neue Testkorpora zu erstellen und diese dann unter eine weniger restriktive Lizenz zu stellen. Damit soll erreicht werden, dass man freie Implementierungen z.B. von Suchmaschinen* auch einigermaßen problemlos gegeneinander vergleichen kann. ... andere Beispiele wären Machine Learning Algorithmen, Data Mining Frameworks etc. (Isabel Drost, FSF Berlin Mailingliste, 13.6.2008)

[via Isabel Drost]

Laut einer Umfrage eines Teams von Elementarteilchenphysikern spielen kommerzielle Suchmaschinen bei der Recherche nach wissenschaftlichen Arbeiten für Wissenschaftler ihrer Disziplin kaum eine Rolle. Die Umfrage wurde auf dem "HEP Information Summit" vorgestellt. An ihr nahmen mehr als 2000 Wissenschaftler weltweit teil, dass sind rund 10% der im Bereich der Elementarteilchenphysik tätigen Forscher. Durchgeführt wurde die Studie von Anne Gentil-Beccot, Salvatore Mele (European Organization for Nuclear Research), Annette Holtkamp (Deutsches Elektronen-Synchrotron DESY), Heath B. O’Connell (Fermilab Library) and Travis C. Brooks (Stanford University). Bevorzugt werden von den befragten Wissenschaftlern in erster Linie communitybasierte Suchmaschinen und Datenbanken.

The main finding of the survey is that community-based services are overwhelmingly dominant in the research workflow of HEP scholars. Although the popularity of Google increases with younger researchers, the field-specific utility provided by these highly-tailored services is perceived as more relevant. Commercial systems are virtually unused in the field. While the various community-based systems have stronger and weaker features, users attach paramount importance to three axes of excellence: access to full-text, depth of coverage and quality of content. (http://arxiv.org/pdf/0804.2701, pdf 412 KB)

Richard Sietmann stellt die Ergebnisse der Umfrage in Kontrast zu einer noch unveröffentlichten Studie der Deutschen Forschungsgemeinschaft:

Dieses Ergebnis kontrastiert mit den Zahlen, die kürzlich eine noch unveröffentlichte Studie der Deutschen Forschungsgemeinschaft zutage förderte, wonach Google bei der Suche nach wissenschaftlichen Arbeiten an erster Stelle steht. An der DFG-Untersuchung hatte man allerdings Wissenschaftler aus allen Fachrichtungen befragt, und sie beschränkte sich auf den deutschen Raum. Dagegen war die gemeinsame Umfrage der Großforschungseinrichtungen CERN, DESY, Fermilab und SLAC weltweit und disziplinspezifisch angelegt ... In der Elementarteilchenphysik stützen sich die Wissenschaftler überwiegend – zu 91,4 Prozent – auf die von der HEP-Community selbst aufgebauten und betriebenen Datenbanken; für 48,2 Prozent ist (SPIRES), für 39,7 Prozent der Preprint-Server arXiv bei Recherchen die erste Anlaufstelle. Die von kommerziellen Wissenschaftsverlagen angebotenen Datenbanken und Suchmaschinen wie SCOPUS, INSPEC oder Web of Science kommen lediglich auf einen Anteil von 0,1 Prozent und spielen in dieser Disziplin praktisch keine Rolle.

Zur Rolle von Google und Sozialen Netzwerkdiensten stellt er auf Grundlage der Untersuchung fest:

Google hingegen ist unter jüngeren Wissenschaftlern offenbar im Kommen. Unter denen, die erst seit zwei Jahren aktiv tätig sind, ist die kalifornische Universalsuchmaschine für jeden fünften das System der Wahl. "Google profitiert sehr stark davon, dass die von der Community betriebenen Systeme ihre Inhalte frei dem Sammeln zur Verfügung gestellt haben", meint Salvatore Mele vom CERN. "Wie in anderen Disziplinen auch operiert Google als eine breiter aufgestellte Alternative zu den Verlagsportalen." Auf zunehmende Akzeptanz stoßen der Umfrage zufolge die Social-Networking-Tools des Web 2.0. Auf die Frage, wieviel Zeit sie für das Tagging von Artikeln über ein einfaches Web-Interface aufbringen würden, gaben 81Prozent der Forscher mehr als 30 Minuten pro Woche an; lediglich 19 Prozent sahen in dem Tagging keinen Dienst an der Community und lehnten es völlig ab – das Verhältnis zwischen Zustimmung und Ablehnung dieses Kommunikationskanals zur Kategorisierung der Arbeiten anderer blieb in allen Altersgruppen nahezu gleich... (22.05.2008 10:37, Richard Sietmann, jk/c't, http://www.heise.de/newsticker/Kommerzielle-Suchmaschinen-in-der-Element...)