IODispatcher terminating run job

Hier finden YaCy User Hilfe wenn was nicht funktioniert oder anders funktioniert als man dachte. Bei offensichtlichen Fehlern diese bitte gleich in die Bugs (http://bugs.yacy.net) eintragen.
Forumsregeln
In diesem Forum geht es um Benutzungsprobleme und Anfragen für Hilfe. Wird dabei ein Bug identifiziert, wird der thread zur Bearbeitung in die Bug-Sektion verschoben. Wer hier also einen Thread eingestellt hat und ihn vermisst, wird ihn sicherlich in der Bug-Sektion wiederfinden.

IODispatcher terminating run job

Beitragvon sixcooler » Mo Apr 27, 2009 8:24 pm

Hallo,

ein paar Minuten nach den Start verabschiedet sich mein IODispatcher. (reproduzierbar aktuell svn5893)
Zu erst fällt ein *.blob.tmp-File auf das nicht mehr verschwindet (zeitgleich mit der Termininierung des IODispatcher).
Das tmp-File scheint (von der Größe her) immer das gleiche zu sein.
Von da an sammeln sich leider viele *.gap / *.idx Dateien im Ricell an, die aber beim neustart entfernt werden.

Wie könnt ich das Problem eingrenzen oder sogar lösen?
Hat jemand eine Idee?

Code: Alles auswählen
I 2009/04/27 20:57:09 INDEX TRANSFER DISPATCHER starting new index transmission request to MNevyP_U7E__
I 2009/04/27 20:57:11 INDEX TRANSFER DISPATCHER Index transfer of 1 words [sGiTHMRQRCtj .. MNevyP_U7E__] and 1 URLs to peer soleil:NTB7mvweduej in 1 seconds successful (0 words/s)
I 2009/04/27 20:57:11 INDEX TRANSFER DISPATCHER Transfer finished of chunk to target NTB7mvweduej/soleil
I 2009/04/27 20:57:11 INDEX TRANSFER DISPATCHER starting new index transmission request to MNevyP_U7E__
I 2009/04/27 20:57:11 IODispatcher terminating run job
I 2009/04/27 20:57:11 INDEX TRANSFER DISPATCHER Index transfer of 1 words [sGiTHMRQRCtj .. MNevyP_U7E__] and 1 URLs to peer errare:QGL99T1PZ5AA in 0 seconds successful (8 words/s)
I 2009/04/27 20:57:11 INDEX TRANSFER DISPATCHER Transfer finished of chunk to target QGL99T1PZ5AA/errare
I 2009/04/27 20:57:11 INDEX TRANSFER DISPATCHER starting new index transmission request to MNevyP_U7E__
I 2009/04/27 20:57:11 PLASMA dhtTransferJob: no selection, too many entries in transmission cloud: 65
I 2009/04/27 20:57:11 PLASMA dhtTransferJob: result from dequeueing: tru


Code: Alles auswählen
************* Start Thread Dump Mon Apr 27 21:10:03 CEST 2009 *******************

YaCy Version: 0.760/05893
Total Memory = 530907136
Used  Memory = 420678672
Free  Memory = 110228464


THREADS WITH STATES: BLOCKED


THREADS WITH STATES: RUNNABLE

Thread= Session_192.168.0.5:60515#2 id=231 RUNNABLE
at java.lang.Thread.getAllStackTraces(Thread.java:1487)
at Threaddump_p.respond(Threaddump_p.java:90)
at sun.reflect.NativeMethodAccessorImpl.invoke0(Native Method)
at sun.reflect.NativeMethodAccessorImpl.invoke(NativeMethodAccessorImpl.java:39)
at sun.reflect.DelegatingMethodAccessorImpl.invoke(DelegatingMethodAccessorImpl.java:25)
at java.lang.reflect.Method.invoke(Method.java:597)
at de.anomic.http.httpdFileHandler.invokeServlet(httpdFileHandler.java:1171)
at de.anomic.http.httpdFileHandler.doResponse(httpdFileHandler.java:751)
at de.anomic.http.httpdFileHandler.doGet(httpdFileHandler.java:240)
at de.anomic.http.httpd.GET(httpd.java:489)
at sun.reflect.GeneratedMethodAccessor8.invoke(Unknown Source)
at sun.reflect.DelegatingMethodAccessorImpl.invoke(DelegatingMethodAccessorImpl.java:25)
at java.lang.reflect.Method.invoke(Method.java:597)
at de.anomic.server.serverCore$Session.listen(serverCore.java:739)
at de.anomic.server.serverCore$Session.run(serverCore.java:620)


Thread= Session_77.243.46.253:34050#0 id=259 RUNNABLE
Thread= Session_141.52.175.75:47744#1 id=256 RUNNABLE
Thread= Session_194.204.62.215:53533#0 id=263 RUNNABLE
Thread= Session_192.168.0.5:60519#7 id=262 RUNNABLE
Thread= Session_192.168.0.5:60521#3 id=265 RUNNABLE
Thread= Session_192.168.0.5:60520#4 id=264 RUNNABLE
Thread= Session_202.168.100.149:39687#0 id=112 RUNNABLE
Thread= Session_93.209.234.117:64124#0 id=249 RUNNABLE
Thread= Session_88.100.95.23:3710#0 id=248 RUNNABLE
Thread= Session_93.210.41.248:63064#1 id=251 RUNNABLE
Thread= Session_10.10.10.14:39506#4 id=250 RUNNABLE
Thread= Session_79.229.21.32:3616#1 id=253 RUNNABLE
Thread= Session_212.117.110.167:19781#3 id=252 RUNNABLE
Thread= Session_88.130.92.42:60563#1 id=255 RUNNABLE
Thread= Session_85.177.172.89:62425#1 id=254 RUNNABLE
Thread= Session_91.12.59.64:57951#34 id=127 RUNNABLE
Thread= Session_192.168.0.5:60522#2 id=266 RUNNABLE
Thread= Session_141.52.175.84:56890#42 id=131 RUNNABLE
Thread= Session_192.168.0.5:60523#2 id=267 RUNNABLE
Thread= Session_192.168.0.5:60524#1 id=268 RUNNABLE
Thread= Session_192.168.0.5:60525#1 id=269 RUNNABLE
Thread= Session_192.168.0.5:60526#1 id=270 RUNNABLE
Thread= Session_71.74.110.75:2414#0 id=271 RUNNABLE
Thread= Session_141.52.175.23:39413#1 id=272 RUNNABLE
Thread= Session_78.46.48.180:55237#32 id=142 RUNNABLE
Thread= Session_192.168.0.5:52777#19 id=162 RUNNABLE
Thread= Session_91.89.17.225:33870#8 id=202 RUNNABLE
Thread= Session_141.52.175.66:42948#13 id=218 RUNNABLE
Thread= Session_130.75.2.29:59330#1 id=213 RUNNABLE
Thread= Session_212.117.110.162:3091#7 id=227 RUNNABLE
Thread= Session_217.236.239.129:33222#0 id=237 RUNNABLE
Thread= Session_192.168.0.5:60517#6 id=233 RUNNABLE
Thread= Session_192.168.0.5:60516#2 id=232 RUNNABLE
Thread= Session_192.168.0.5:60514#8 id=230 RUNNABLE
Thread= Session_192.168.0.5:60513#11 id=229 RUNNABLE
Thread= Session_192.168.0.5:60512#13 id=228 RUNNABLE
Thread= Session_84.138.87.32:54353#6 id=247 RUNNABLE
Thread= Session_84.60.154.124:38332#0 id=246 RUNNABLE
Thread= Session_141.52.175.46:50741#5 id=245 RUNNABLE
Thread= Session_84.62.29.67:33823#4 id=241 RUNNABLE
Thread= Session_134.107.24.49:37824#1 id=239 RUNNABLE
at java.io.PushbackInputStream.read(PushbackInputStream.java:122)
at de.anomic.server.serverCore.receive(serverCore.java:840)
at de.anomic.server.serverCore$Session.readLine(serverCore.java:566)
at de.anomic.server.serverCore$Session.listen(serverCore.java:671)
at de.anomic.server.serverCore$Session.run(serverCore.java:620)


Thread= httpd:8080 id=91 RUNNABLE
at java.net.ServerSocket.accept(ServerSocket.java:421)
at de.anomic.server.serverCore.job(serverCore.java:331)
at de.anomic.server.serverAbstractBusyThread.run(serverAbstractBusyThread.java:143)



THREADS WITH STATES: TIMED_WAITING

Thread= de.anomic.yacy.yacyCore.peerPing id=89 TIMED_WAITING
Thread= de.anomic.plasma.plasmaSwitchboard.deQueueProcess id=84 TIMED_WAITING
Thread= de.anomic.yacy.yacyCore.publishSeedList id=88 TIMED_WAITING
Thread= de.anomic.plasma.plasmaSwitchboard.cleanupJob id=83 TIMED_WAITING
Thread= de.anomic.crawler.CrawlQueues.remoteTriggeredCrawlJob id=85 TIMED_WAITING
Thread= de.anomic.crawler.CrawlQueues.coreCrawlJob id=87 TIMED_WAITING
Thread= de.anomic.plasma.plasmaSwitchboard.dhtTransferJob id=90 TIMED_WAITING
Thread= de.anomic.data.bookmarksDB.autoReCrawl id=45 TIMED_WAITING
Thread= de.anomic.crawler.CrawlQueues.remoteCrawlLoaderJob id=86 TIMED_WAITING
at java.lang.Thread.sleep(Native Method)
at de.anomic.server.serverAbstractBusyThread.ratz(serverAbstractBusyThread.java:199)
at de.anomic.server.serverAbstractBusyThread.run(serverAbstractBusyThread.java:164)


Thread= Thread-1 id=9 TIMED_WAITING
at java.lang.Thread.sleep(Native Method)
at de.anomic.server.serverProfiling.run(serverProfiling.java:63)



THREADS WITH STATES: WAITING

Thread= MultiThreadedHttpConnectionManager cleanup daemon id=41 WAITING
at java.lang.ref.ReferenceQueue.remove(ReferenceQueue.java:132)
at org.apache.commons.httpclient.MultiThreadedHttpConnectionManager$ReferenceQueueThread.run(MultiThreadedHttpConnectionManager.java:1122)


Thread= main id=1 WAITING
at java.lang.Object.wait(Object.java:485)
at de.anomic.server.serverSemaphore.P(serverSemaphore.java:63)
at de.anomic.plasma.plasmaSwitchboard.waitForShutdown(plasmaSwitchboard.java:2198)
at yacy.startup(yacy.java:421)
at yacy.main(yacy.java:1038)


Thread= Reference Handler daemon id=2 WAITING
at java.lang.ref.Reference$ReferenceHandler.run(Reference.java:116)


Thread= Finalizer daemon id=3 WAITING
at java.lang.ref.Finalizer$FinalizerThread.run(Finalizer.java:159)


Thread= urls_pool-3-thread-27 id=110 WAITING
Thread= urls_pool-3-thread-26 id=109 WAITING
Thread= Java2D Disposer daemon id=116 WAITING
at java.lang.Thread.run(Thread.java:619)


Thread= storeDocumentIndex_pool-3-thread-10 id=40 WAITING
Thread= storeDocumentIndex_pool-3-thread-3 id=26 WAITING
Thread= storeDocumentIndex_pool-3-thread-2 id=24 WAITING
Thread= condenseDocument_pool-3-thread-22 id=76 WAITING
Thread= storeDocumentIndex_pool-3-thread-9 id=38 WAITING
Thread= storeDocumentIndex_pool-3-thread-4 id=28 WAITING
Thread= parseDocument_pool-3-thread-23 id=78 WAITING
Thread= job_pool-3-thread-16 id=64 WAITING
Thread= job_pool-3-thread-11 id=54 WAITING
Thread= storeDocumentIndex_pool-3-thread-7 id=34 WAITING
Thread= job_pool-3-thread-17 id=66 WAITING
Thread= condenseDocument_pool-3-thread-21 id=74 WAITING
Thread= parseDocument_pool-3-thread-25 id=82 WAITING
Thread= job_pool-3-thread-13 id=58 WAITING
Thread= webStructureAnalysis_pool-3-thread-19 id=70 WAITING
Thread= storeDocumentIndex_pool-3-thread-18 id=68 WAITING
Thread= job_pool-3-thread-12 id=56 WAITING
Thread= parseDocument_pool-3-thread-24 id=80 WAITING
Thread= storeDocumentIndex_pool-3-thread-1 id=22 WAITING
Thread= storeDocumentIndex_pool-3-thread-5 id=30 WAITING
Thread= webStructureAnalysis_pool-3-thread-20 id=72 WAITING
Thread= storeDocumentIndex_pool-3-thread-8 id=36 WAITING
Thread= job_pool-3-thread-14 id=60 WAITING
Thread= storeDocumentIndex_pool-3-thread-6 id=32 WAITING
Thread= job_pool-3-thread-15 id=62 WAITING
at java.util.concurrent.LinkedBlockingQueue.take(LinkedBlockingQueue.java:358)
at de.anomic.server.serverProcessor.take(serverProcessor.java:97)
at de.anomic.server.serverAbstractBlockingThread.run(serverAbstractBlockingThread.java:55)
at java.util.concurrent.Executors$RunnableAdapter.call(Executors.java:441)
at java.util.concurrent.FutureTask$Sync.innerRun(FutureTask.java:303)
at java.util.concurrent.FutureTask.run(FutureTask.java:138)
at java.util.concurrent.ThreadPoolExecutor$Worker.runTask(ThreadPoolExecutor.java:886)
at java.util.concurrent.ThreadPoolExecutor$Worker.run(ThreadPoolExecutor.java:908)
at java.lang.Thread.run(Thread.java:619)



THREADS WITH STATES: NEW


THREADS WITH STATES: TERMINATED


************* End Thread Dump Mon Apr 27 21:10:03 CEST 2009 *******************


Allerbesten Dank, sixcooler.
sixcooler
 
Beiträge: 494
Registriert: Do Aug 14, 2008 5:22 pm

Re: IODispatcher terminating run job

Beitragvon Orbiter » Mo Apr 27, 2009 9:34 pm

kannst du bitte gucken ob du vorher eine Meldung "main run job was interrupted" im log hast? Da sollte nämlich die Ursache dafür drin stehen, das kann ich so nicht sehen.
Orbiter
 
Beiträge: 5798
Registriert: Di Jun 26, 2007 10:58 pm
Wohnort: Frankfurt am Main

Re: IODispatcher terminating run job

Beitragvon sixcooler » Mo Apr 27, 2009 9:54 pm

leider(?) kein "main run job was interrupted"

aber ich fand ein letztes 'BLOBArray merging index.20090425125022107.blob with index.20090426221644349.blob' dem kein
'BLOBArray merged ...' mehr folgte.
Das kleine der beiden habe ich nun mal herausgenommen und nu warte ich das er das verbliebene der beiden merged - oder auch nich.

Besten Dank, sixcooler.
sixcooler
 
Beiträge: 494
Registriert: Do Aug 14, 2008 5:22 pm

Re: IODispatcher terminating run job

Beitragvon sixcooler » Mo Apr 27, 2009 9:59 pm

hier ist das Logfile
Dateianhänge
yacyLog.txt.gz
(42.49 KiB) 15-mal heruntergeladen
sixcooler
 
Beiträge: 494
Registriert: Do Aug 14, 2008 5:22 pm

Re: IODispatcher terminating run job

Beitragvon Orbiter » Di Apr 28, 2009 12:07 am

kann da auch nichts drin sehen, ich brüte jetzt mal über dem Code ... morgen in der S-Bahn.
Orbiter
 
Beiträge: 5798
Registriert: Di Jun 26, 2007 10:58 pm
Wohnort: Frankfurt am Main

Re: IODispatcher terminating run job

Beitragvon Orbiter » Di Apr 28, 2009 8:28 am

ich denke die S-Bahnfahrt war erfolgreich, zumindest war es so dass ich den Fehler ohne weiteres nachstellen konnte. Wahrscheinlich ist das schon die ganze Zeit so gewesen, ist nur niemand aufgefallen, weil die dump- und merge-Funktion im IODispatcher auch mit einem terminierten Scheduler funktionieren, nur eben dann nicht serialisiert, was ja die Platte entlasten sollte. Mit SVN 5896 müsste das Problem jetzt gefixt sein, ich weiss immer noch nicht genau was es war, aber ich hab das ganze nun ein wenig umgeschrieben und sieht jetzt ordentlicher aus.
Wenn die bisher gemachten Performance Tests übrigens mit dem kaputten IODispatcher liefen, dann sollten sie nun noch ein wenig besser sein...
Orbiter
 
Beiträge: 5798
Registriert: Di Jun 26, 2007 10:58 pm
Wohnort: Frankfurt am Main

Re: IODispatcher terminating run job

Beitragvon sixcooler » Di Apr 28, 2009 1:46 pm

Allerbesten Dank für das 'Brüten über den Code'
Leider scheint das nicht den erhofften Erfolg zu haben - zumindest nicht bei mir.

In der Zwischenzeit hatte ich das Filesystem vom yacy geprüft (ohne Befund) und
das betroffene yacy auf einem Anderen Rechner laufen lassen (mit dem gleichen Effekt).

Das Problem trat auch noch bei einer anderen Blob-Paarung auf von der ich wieder
den kleineren temporär entfernte.
So lief alles gut bis heute Mittag.

Um svn5896 zu testen kamen die temporär entfernenetn blobs wieder an ihre stelle
und schnell hatte ich wieder keinen IODispatcher.
Dateianhänge
yacy00.log.gz
(20.8 KiB) 14-mal heruntergeladen
sixcooler
 
Beiträge: 494
Registriert: Do Aug 14, 2008 5:22 pm

Re: IODispatcher terminating run job

Beitragvon Orbiter » Di Apr 28, 2009 2:37 pm

das ist alles schon ein wenig merkwürdig, weil ich das logging so weit erweitert hatte, das man vor dem 'terminating run job' noch eine Meldung bekommt, die einem erzählt was schief gelaufen sein soll. Und weiterhin sollte dann jeder weitere Aufruf von methoden des IODispatchers Warnings erzeugen. Also ist der IODispatcher terminiert, weil er richtig runter gefahren wurde (was auch nicht sein kann weil das auch eine Meldung erzeugt) oder es gab nach der terminierung keine Aufrufe des IODispatchers mehr. Wie auch immer: in deinem Log fehlen einfach 'Warning' Messages, nicht nur vom Dispatcher sondern auch sonst. Kannst du mal gucken ob dei logging richtig eingestellt ist?
Orbiter
 
Beiträge: 5798
Registriert: Di Jun 26, 2007 10:58 pm
Wohnort: Frankfurt am Main

Re: IODispatcher terminating run job

Beitragvon sixcooler » Di Apr 28, 2009 3:25 pm

yacy.logging entspricht dem wie es so aus dem svn kommt bis auf FileHandler.count
Nun habe ich die meisten level mal auf 'FINE' gesetzt - keine Warnings...

Was muss ich anstellen um sie zu bekommen?
sixcooler
 
Beiträge: 494
Registriert: Do Aug 14, 2008 5:22 pm

Re: IODispatcher terminating run job

Beitragvon sixcooler » Di Apr 28, 2009 3:58 pm

Ah! - ALL bringt ne Menge mehr - aber schlau werd ich daraus nicht.
Dateianhänge
yacy00.log.gz
(24.4 KiB) 18-mal heruntergeladen
sixcooler
 
Beiträge: 494
Registriert: Do Aug 14, 2008 5:22 pm

Re: IODispatcher terminating run job

Beitragvon sixcooler » Mi Apr 29, 2009 12:17 pm

Evtl. bin ich der Ursache meines Problem etwas näher gekommen.
Normalerweise läuft der Peer mit 512MB zugewiesenemm Speicher. Vorrübergehend habe ich ihm aber mal 1GB gegönnt und es wurde ein Blob geboren an dem es vorher gescheitert war!

Nun wieder mit 512MB habe ich mal probiert BLOBArray.oneGigabyte zu vierteln und es lief zumindest schon einige Stunden ohne Fehler durch.
Dateianhänge
PerformanceGraph.png
Geburt eines dicken Blob
PerformanceGraph.png (7.13 KiB) 1319-mal betrachtet
sixcooler
 
Beiträge: 494
Registriert: Do Aug 14, 2008 5:22 pm

Re: IODispatcher terminating run job

Beitragvon sixcooler » So Mai 03, 2009 7:13 pm

An diesem Problem bin ich nach wie vor am herumgrübeln.

Einen anderen Peer, der bisher kein solches Verhalten zeigte lies sich zu diesem Fehler provizieren in dem der zugewiesene Speicher sehr weit reduziert wird.

Ich vermute das für das mergen von Blobs ein recht erheblicher Speicher benötigt wird, den ich aber nicht habe. Warum der IODispatcher sich so klanglos verabschiedet ohne das heftig Fehlermeldungen Prasseln ist mir unklar.

Seit einiger Zeit probiere ich in folgende Richtung das Problem zu umgehen:

Code: Alles auswählen
Index: source/de/anomic/kelondro/blob/BLOBArray.java
===================================================================
--- source/de/anomic/kelondro/blob/BLOBArray.java   (Revision 5917)
+++ source/de/anomic/kelondro/blob/BLOBArray.java   (Arbeitskopie)
@@ -49,6 +49,7 @@
import de.anomic.kelondro.util.DateFormatter;
import de.anomic.kelondro.util.FileUtils;
import de.anomic.kelondro.util.Log;
+import de.anomic.kelondro.util.MemoryControl;

public class BLOBArray implements BLOB {

@@ -219,7 +220,7 @@
             for (int j = i + 1; j < this.blobs.size(); j++) {
                 l = 1 + (this.blobs.get(i).location.length() >> 1);
                 r = 1 + (this.blobs.get(j).location.length() >> 1);
-                if (l + r > maxResultSize) continue;
+                if (l + r > maxResultSize || (l + r + 32L*1024L*1024L) > MemoryControl.free()) continue;
                 double q = Math.max(((double) l)/((double) r), ((double) r)/((double) l));
                 if (q < min) {
                     min = q;
@@ -241,6 +242,8 @@
         File f1 = smallestBLOB(f0, maxResultSize - f0.length());
         if (f1 == null) return null;
         
+        if ((f0.length() + f1.length() + 32L*1024L*1024L) > MemoryControl.free()) return null;
+       
         unmountBLOB(f0, false);
         unmountBLOB(f1, false);
         return new File[]{f0, f1};
@@ -555,6 +558,7 @@
     
     public File mergeMount(File f1, File f2, ReferenceFactory<?> factory, Row payloadrow, File newFile) throws IOException {
         Log.logInfo("BLOBArray", "merging " + f1.getName() + " with " + f2.getName());
+        if (!MemoryControl.request(f1.length() + f2.length(), true)) Log.logWarning("BLOBArray", "failed requesting memory for mergeMount!");
         File resultFile = mergeWorker(factory, this.keylength, this.ordering, f1, f2, payloadrow, newFile);
         if (resultFile == null) return null;
         mountBLOB(resultFile, false);


So werden die Blobs zwar nicht mehr so groß aber der IODispatcher hält durch.
Nur wenn Zeitgleich andere Prozesse laufen (indexer oder so) haut es manchmalden IODispatcher auf dden Boden :-(
sixcooler
 
Beiträge: 494
Registriert: Do Aug 14, 2008 5:22 pm

Re: IODispatcher terminating run job

Beitragvon Orbiter » So Mai 03, 2009 7:39 pm

die Werte l und r bezeichnen hier Filegrößen. Es macht keinen Sinn diesen mit verfügbarem RAM zu vergleichen. Es geht hierbei darum, Files zu erzeugen, die kleiner sind als 2GB, weil Windows damit ja offenbar immer noch Probleme hat. Ansonsten hat die Größe der BLOB-Files nichts damit zu tun, ob es beim Mergen zu einem OOM kommt, da hier nicht die Daten des gesamten Files ins RAM geladen werden (wie sollte das möglich sein bei beliebiger Skalierung), sondern immer nur Records (eben binary objects) des BLOB-Files. Ob diese dann dort ganz rein passen ist wieder eine ganz andere Frage, die aber mit der Codeanpassung nicht angegangen wird, und das ist auch sowieso nicht so einfach, da es dabei eher um Fragen geht wie 'sollen 100000 mögliche Ergebnisse betrachtet werden können für eine Suche oder weniger', da es hierbei um Realtime-Verfügbarkeit des Indexes geht.
Also nochmal: die Größe eines BLOBs ist nicht relevant für die OOM-Anfälligkeit beim Mergen, da der Merge-Algorithmus bei kleinen Files genau so viel RAM verbraucht wie bei großen Files.
Orbiter
 
Beiträge: 5798
Registriert: Di Jun 26, 2007 10:58 pm
Wohnort: Frankfurt am Main

Re: IODispatcher terminating run job

Beitragvon sixcooler » So Mai 03, 2009 8:24 pm

Das 'l' und 'r' Dateigrößen sind und diese Dateien nicht in den Speicher kommen ist mir klar. Aber irgendwie muss die Blobgröße da eine Rolle spielen:
Bei meinen Versuchen beobachtete ich das je mehr Speicher ich zuweise, desto später und bei desto großeren Blobs haut der IODispatcher ab.
Der Vergleich von Dateigröße und Speicher lag daher nur nahe um das ganze etwas zu umgehen.
Eine Wirkliche Lösung soll das nicht sein.
Der Graph des früheren Posts beim mergen eines ca 550MB blobs drängt ja auch irgendwie die Vermutung von Speichermangel auf :-)

Das Merkwürdigste ist für mich nach wie vor das der Fehler so 'leise' auftritt.
Beim besten willen bekomme ich keine besseren Infos.
sixcooler
 
Beiträge: 494
Registriert: Do Aug 14, 2008 5:22 pm

Re: IODispatcher terminating run job

Beitragvon sixcooler » Mo Mai 04, 2009 5:23 pm

0.770/05920 fördert folgendes zu Tage:
Code: Alles auswählen
E 2009/05/04 18:14:22 IODispatcher main run job failed (4)
java.lang.ArrayIndexOutOfBoundsException: -116
   at de.anomic.kelondro.order.Base64Order.compares(Base64Order.java:504)
   at de.anomic.kelondro.order.Base64Order.compare0(Base64Order.java:433)
   at de.anomic.kelondro.order.Base64Order.compare(Base64Order.java:426)
   at de.anomic.kelondro.index.RowCollection.compare(RowCollection.java:856)
   at de.anomic.kelondro.index.RowCollection.partition(RowCollection.java:639)
   at de.anomic.kelondro.index.RowCollection.sort(RowCollection.java:499)
   at de.anomic.kelondro.index.RowSet.mergeEnum(RowSet.java:413)
   at de.anomic.kelondro.index.RowSet.merge(RowSet.java:388)
   at de.anomic.kelondro.text.ReferenceContainer.merge(ReferenceContainer.java:105)
   at de.anomic.kelondro.blob.BLOBArray.merge(BLOBArray.java:643)
   at de.anomic.kelondro.blob.BLOBArray.mergeWorker(BLOBArray.java:595)
   at de.anomic.kelondro.blob.BLOBArray.mergeMount(BLOBArray.java:564)
   at de.anomic.kelondro.text.IODispatcher$MergeJob.merge(IODispatcher.java:227)
   at de.anomic.kelondro.text.IODispatcher.run(IODispatcher.java:151)
I 2009/05/04 18:14:22 IODispatcher terminating run job


Allerbesten Dank für diese Änderungen.
Bedeutet dieses das ich einfach die beteiligten blobs zu entfernen habe?
sixcooler
 
Beiträge: 494
Registriert: Do Aug 14, 2008 5:22 pm

Re: IODispatcher terminating run job

Beitragvon bluumi » Mo Mai 04, 2009 7:30 pm

Peer Nr. 1 WinXP 32Bit
Leider habe ich mit der SVN5920 dasselbe Problem wie Sixcooler.
E 2009/05/04 18:14:22 IODispatcher main run job failed (4)
java.lang.ArrayIndexOutOfBoundsException: -116


Habe 3x neugestartet und es bleibt immer bei denselben zwei Blob mergen "hängen".

*-*-*-*-*-*-*-*-*-*-*

Peer Nr. 2 - Win7 64Bit - kann ich mit 5920 starten, aber im Consolen Fenster wimmelt es von IODispatcher fehlern:
Code: Alles auswählen
E 2009/05/04 20:32:42 PLASMA re-starting IODispatcher
java.lang.IllegalThreadStateException
        at java.lang.Thread.start(Unknown Source)
        at de.anomic.plasma.plasmaWordIndex.addPageIndex(plasmaWordIndex.java:435)
        at de.anomic.plasma.plasmaWordIndex.storeDocument(plasmaWordIndex.java:562)
        at de.anomic.plasma.plasmaSwitchboard.storeDocumentIndex(plasmaSwitchboard.java:1740)
        at de.anomic.plasma.plasmaSwitchboard.storeDocumentIndex(plasmaSwitchboard.java:1722)
        at sun.reflect.GeneratedMethodAccessor18.invoke(Unknown Source)
        at sun.reflect.DelegatingMethodAccessorImpl.invoke(Unknown Source)
        at java.lang.reflect.Method.invoke(Unknown Source)
        at de.anomic.server.serverInstantBlockingThread.job(serverInstantBlockingThread.java:87)
        at de.anomic.server.serverAbstractBlockingThread.run(serverAbstractBlockingThread.java:64)
        at java.util.concurrent.Executors$RunnableAdapter.call(Unknown Source)
        at java.util.concurrent.FutureTask$Sync.innerRun(Unknown Source)
        at java.util.concurrent.FutureTask.run(Unknown Source)
        at java.util.concurrent.ThreadPoolExecutor$Worker.runTask(Unknown Source)
        at java.util.concurrent.ThreadPoolExecutor$Worker.run(Unknown Source)
        at java.lang.Thread.run(Unknown Source)
java.lang.reflect.InvocationTargetException
        at sun.reflect.GeneratedMethodAccessor18.invoke(Unknown Source)
        at sun.reflect.DelegatingMethodAccessorImpl.invoke(Unknown Source)
        at java.lang.reflect.Method.invoke(Unknown Source)
        at de.anomic.server.serverInstantBlockingThread.job(serverInstantBlockingThread.java:87)
        at de.anomic.server.serverAbstractBlockingThread.run(serverAbstractBlockingThread.java:64)
        at java.util.concurrent.Executors$RunnableAdapter.call(Unknown Source)
        at java.util.concurrent.FutureTask$Sync.innerRun(Unknown Source)
        at java.util.concurrent.FutureTask.run(Unknown Source)
        at java.util.concurrent.ThreadPoolExecutor$Worker.runTask(Unknown Source)
        at java.util.concurrent.ThreadPoolExecutor$Worker.run(Unknown Source)
        at java.lang.Thread.run(Unknown Source)
Caused by: java.lang.IllegalThreadStateException
        at java.lang.Thread.start(Unknown Source)
        at de.anomic.plasma.plasmaWordIndex.addPageIndex(plasmaWordIndex.java:435)
        at de.anomic.plasma.plasmaWordIndex.storeDocument(plasmaWordIndex.java:562)
        at de.anomic.plasma.plasmaSwitchboard.storeDocumentIndex(plasmaSwitchboard.java:1740)
        at de.anomic.plasma.plasmaSwitchboard.storeDocumentIndex(plasmaSwitchboard.java:1722)
        ... 11 more
E 2009/05/04 20:32:42 BLOCKINGTHREAD Runtime Error in serverInstantThread.job, thread 'java.lang.reflect.Method.storeDocumentIndex.17': null; target exception: null
java.lang.IllegalThreadStateException
        at java.lang.Thread.start(Unknown Source)
        at de.anomic.plasma.plasmaWordIndex.addPageIndex(plasmaWordIndex.java:435)
        at de.anomic.plasma.plasmaWordIndex.storeDocument(plasmaWordIndex.java:562)
        at de.anomic.plasma.plasmaSwitchboard.storeDocumentIndex(plasmaSwitchboard.java:1740)
        at de.anomic.plasma.plasmaSwitchboard.storeDocumentIndex(plasmaSwitchboard.java:1722)
        at sun.reflect.GeneratedMethodAccessor18.invoke(Unknown Source)
        at sun.reflect.DelegatingMethodAccessorImpl.invoke(Unknown Source)
        at java.lang.reflect.Method.invoke(Unknown Source)
        at de.anomic.server.serverInstantBlockingThread.job(serverInstantBlockingThread.java:87)
        at de.anomic.server.serverAbstractBlockingThread.run(serverAbstractBlockingThread.java:64)
        at java.util.concurrent.Executors$RunnableAdapter.call(Unknown Source)
        at java.util.concurrent.FutureTask$Sync.innerRun(Unknown Source)
        at java.util.concurrent.FutureTask.run(Unknown Source)
        at java.util.concurrent.ThreadPoolExecutor$Worker.runTask(Unknown Source)
        at java.util.concurrent.ThreadPoolExecutor$Worker.run(Unknown Source)
        at java.lang.Thread.run(Unknown Source)
I 2009/05/04 20:32:42 PLASMA Excluded 0 words in URL http://bit.ly/qeiLw
*** DEBUG LANGUAGE-BY-STATISTICS: http://bit.ly/qeiLw CONFLICTING: ALL DIFFERENT! statistic: af, metadata: de, TLD: + ly. taking metadata.
E 2009/05/04 20:32:42 PLASMA re-starting IODispatcher
java.lang.IllegalThreadStateException
        at java.lang.Thread.start(Unknown Source)
        at de.anomic.plasma.plasmaWordIndex.addPageIndex(plasmaWordIndex.java:435)
        at de.anomic.plasma.plasmaWordIndex.storeDocument(plasmaWordIndex.java:562)
        at de.anomic.plasma.plasmaSwitchboard.storeDocumentIndex(plasmaSwitchboard.java:1740)
        at de.anomic.plasma.plasmaSwitchboard.storeDocumentIndex(plasmaSwitchboard.java:1722)
        at sun.reflect.GeneratedMethodAccessor18.invoke(Unknown Source)
        at sun.reflect.DelegatingMethodAccessorImpl.invoke(Unknown Source)
        at java.lang.reflect.Method.invoke(Unknown Source)
        at de.anomic.server.serverInstantBlockingThread.job(serverInstantBlockingThread.java:87)
        at de.anomic.server.serverAbstractBlockingThread.run(serverAbstractBlockingThread.java:64)
        at java.util.concurrent.Executors$RunnableAdapter.call(Unknown Source)
        at java.util.concurrent.FutureTask$Sync.innerRun(Unknown Source)
        at java.util.concurrent.FutureTask.run(Unknown Source)
        at java.util.concurrent.ThreadPoolExecutor$Worker.runTask(Unknown Source)
        at java.util.concurrent.ThreadPoolExecutor$Worker.run(Unknown Source)
        at java.lang.Thread.run(Unknown Source)
java.lang.reflect.InvocationTargetException
        at sun.reflect.GeneratedMethodAccessor18.invoke(Unknown Source)
        at sun.reflect.DelegatingMethodAccessorImpl.invoke(Unknown Source)
        at java.lang.reflect.Method.invoke(Unknown Source)
        at de.anomic.server.serverInstantBlockingThread.job(serverInstantBlockingThread.java:87)
        at de.anomic.server.serverAbstractBlockingThread.run(serverAbstractBlockingThread.java:64)
        at java.util.concurrent.Executors$RunnableAdapter.call(Unknown Source)
        at java.util.concurrent.FutureTask$Sync.innerRun(Unknown Source)
        at java.util.concurrent.FutureTask.run(Unknown Source)
        at java.util.concurrent.ThreadPoolExecutor$Worker.runTask(Unknown Source)
        at java.util.concurrent.ThreadPoolExecutor$Worker.run(Unknown Source)
        at java.lang.Thread.run(Unknown Source)
Caused by: java.lang.IllegalThreadStateException
        at java.lang.Thread.start(Unknown Source)
I 2009/05/04 20:32:42 INDEX TRANSFER DISPATCHER enqueueContainers: selected 9 targets for primary target key oRfgnrEBgE__/10 with 55 index containers.
        at de.anomic.plasma.plasmaWordIndex.addPageIndex(plasmaWordIndex.java:435)
        at de.anomic.plasma.plasmaWordIndex.storeDocument(plasmaWordIndex.java:562)
        at de.anomic.plasma.plasmaSwitchboard.storeDocumentIndex(plasmaSwitchboard.java:1740)
        at de.anomic.plasma.plasmaSwitchboard.storeDocumentIndex(plasmaSwitchboard.java:1722)
        ... 11 more
E 2009/05/04 20:32:42 BLOCKINGTHREAD Runtime Error in serverInstantThread.job, thread 'java.lang.reflect.Method.storeDocumentIndex.17': null; target exception: null
java.lang.IllegalThreadStateException
        at java.lang.Thread.start(Unknown Source)
        at de.anomic.plasma.plasmaWordIndex.addPageIndex(plasmaWordIndex.java:435)
        at de.anomic.plasma.plasmaWordIndex.storeDocument(plasmaWordIndex.java:562)
        at de.anomic.plasma.plasmaSwitchboard.storeDocumentIndex(plasmaSwitchboard.java:1740)
        at de.anomic.plasma.plasmaSwitchboard.storeDocumentIndex(plasmaSwitchboard.java:1722)
        at sun.reflect.GeneratedMethodAccessor18.invoke(Unknown Source)
        at sun.reflect.DelegatingMethodAccessorImpl.invoke(Unknown Source)
        at java.lang.reflect.Method.invoke(Unknown Source)
        at de.anomic.server.serverInstantBlockingThread.job(serverInstantBlockingThread.java:87)
        at de.anomic.server.serverAbstractBlockingThread.run(serverAbstractBlockingThread.java:64)
        at java.util.concurrent.Executors$RunnableAdapter.call(Unknown Source)
        at java.util.concurrent.FutureTask$Sync.innerRun(Unknown Source)
        at java.util.concurrent.FutureTask.run(Unknown Source)
        at java.util.concurrent.ThreadPoolExecutor$Worker.runTask(Unknown Source)
        at java.util.concurrent.ThreadPoolExecutor$Worker.run(Unknown Source)
        at java.lang.Thread.run(Unknown Source)
I 2009/05/04 20:32:42 INDEX TRANSFER DISPATCHER enqueueContainers: selected 9 targets for primary target key sRfgnrEBgE__/11 with 55 index containers.
D 2009/05/04 20:32:42 CRAWLER REMOTETRIGGEREDCRAWL[0, 0, 0, 85]: URL=http://www.nytimes.com/1985/10/22/us/dan-white-killer-of-san-francisco-mayor-a-suicide.html, initiator=Fxc5iGuD
HvMW, crawlOrder=false, depth=0, crawlDepth=0, must-match=.*, must-not-match=, permission=true
I 2009/05/04 20:32:42 CRAWLER REMOTETRIGGEREDCRAWL[0, 0, 0, 85]: enqueued for load http://www.nytimes.com/1985/10/22/us/dan-white-killer-of-san-francisco-mayor-a-suicide.html [0czZ
cyhOch4Y]
I 2009/05/04 20:32:43 INDEX TRANSFER DISPATCHER enqueueContainers: selected 9 targets for primary target key wRfgnrEBgE__/12 with 55 index containers.
I 2009/05/04 20:32:43 PLASMA Excluded 0 words in URL http://www.nytimes.com/1985/10/22/us/dan-white-killer-of-san-francisco-mayor-a-suicide.html
*** DEBUG LANGUAGE-BY-STATISTICS: http://www.nytimes.com/1985/10/22/us/dan-white-killer-of-san-francisco-mayor-a-suicide.html CONFIRMED - TLD IDENTICAL: en
E 2009/05/04 20:32:43 PLASMA re-starting IODispatcher
java.lang.IllegalThreadStateException
        at java.lang.Thread.start(Unknown Source)
        at de.anomic.plasma.plasmaWordIndex.addPageIndex(plasmaWordIndex.java:435)
        at de.anomic.plasma.plasmaWordIndex.storeDocument(plasmaWordIndex.java:562)
        at de.anomic.plasma.plasmaSwitchboard.storeDocumentIndex(plasmaSwitchboard.java:1740)
        at de.anomic.plasma.plasmaSwitchboard.storeDocumentIndex(plasmaSwitchboard.java:1722)
        at sun.reflect.GeneratedMethodAccessor18.invoke(Unknown Source)
        at sun.reflect.DelegatingMethodAccessorImpl.invoke(Unknown Source)
        at java.lang.reflect.Method.invoke(Unknown Source)
        at de.anomic.server.serverInstantBlockingThread.job(serverInstantBlockingThread.java:87)
        at de.anomic.server.serverAbstractBlockingThread.run(serverAbstractBlockingThread.java:64)
        at java.util.concurrent.Executors$RunnableAdapter.call(Unknown Source)
        at java.util.concurrent.FutureTask$Sync.innerRun(Unknown Source)
        at java.util.concurrent.FutureTask.run(Unknown Source)
        at java.util.concurrent.ThreadPoolExecutor$Worker.runTask(Unknown Source)
        at java.util.concurrent.ThreadPoolExecutor$Worker.run(Unknown Source)
        at java.lang.Thread.run(Unknown Source)
java.lang.reflect.InvocationTargetException
I 2009/05/04 20:32:43 INDEX TRANSFER DISPATCHER enqueueContainers: selected 9 targets for primary target key 0RfgnrEBgE__/13 with 55 index containers.
        at sun.reflect.GeneratedMethodAccessor18.invoke(Unknown Source)
        at sun.reflect.DelegatingMethodAccessorImpl.invoke(Unknown Source)
        at java.lang.reflect.Method.invoke(Unknown Source)
        at de.anomic.server.serverInstantBlockingThread.job(serverInstantBlockingThread.java:87)
        at de.anomic.server.serverAbstractBlockingThread.run(serverAbstractBlockingThread.java:64)
        at java.util.concurrent.Executors$RunnableAdapter.call(Unknown Source)
        at java.util.concurrent.FutureTask$Sync.innerRun(Unknown Source)
        at java.util.concurrent.FutureTask.run(Unknown Source)
        at java.util.concurrent.ThreadPoolExecutor$Worker.runTask(Unknown Source)
        at java.util.concurrent.ThreadPoolExecutor$Worker.run(Unknown Source)
        at java.lang.Thread.run(Unknown Source)
Caused by: java.lang.IllegalThreadStateException
        at java.lang.Thread.start(Unknown Source)
        at de.anomic.plasma.plasmaWordIndex.addPageIndex(plasmaWordIndex.java:435)
        at de.anomic.plasma.plasmaWordIndex.storeDocument(plasmaWordIndex.java:562)
        at de.anomic.plasma.plasmaSwitchboard.storeDocumentIndex(plasmaSwitchboard.java:1740)
        at de.anomic.plasma.plasmaSwitchboard.storeDocumentIndex(plasmaSwitchboard.java:1722)
        ... 11 more
E 2009/05/04 20:32:43 BLOCKINGTHREAD Runtime Error in serverInstantThread.job, thread 'java.lang.reflect.Method.storeDocumentIndex.17': null; target exception: null
java.lang.IllegalThreadStateException
        at java.lang.Thread.start(Unknown Source)
        at de.anomic.plasma.plasmaWordIndex.addPageIndex(plasmaWordIndex.java:435)
        at de.anomic.plasma.plasmaWordIndex.storeDocument(plasmaWordIndex.java:562)
        at de.anomic.plasma.plasmaSwitchboard.storeDocumentIndex(plasmaSwitchboard.java:1740)
        at de.anomic.plasma.plasmaSwitchboard.storeDocumentIndex(plasmaSwitchboard.java:1722)
        at sun.reflect.GeneratedMethodAccessor18.invoke(Unknown Source)
        at sun.reflect.DelegatingMethodAccessorImpl.invoke(Unknown Source)
        at java.lang.reflect.Method.invoke(Unknown Source)
        at de.anomic.server.serverInstantBlockingThread.job(serverInstantBlockingThread.java:87)
        at de.anomic.server.serverAbstractBlockingThread.run(serverAbstractBlockingThread.java:64)
        at java.util.concurrent.Executors$RunnableAdapter.call(Unknown Source)
        at java.util.concurrent.FutureTask$Sync.innerRun(Unknown Source)
        at java.util.concurrent.FutureTask.run(Unknown Source)
        at java.util.concurrent.ThreadPoolExecutor$Worker.runTask(Unknown Source)
        at java.util.concurrent.ThreadPoolExecutor$Worker.run(Unknown Source)
        at java.lang.Thread.run(Unknown Source)
I 2009/05/04 20:32:43 INDEX TRANSFER DISPATCHER enqueueContainers: selected 9 targets for primary target key 4RfgnrEBgE__/14 with 55 index containers.
D 2009/05/04 20:32:43 CRAWLER REMOTETRIGGEREDCRAWL[0, 0, 0, 111]: URL=http://www.nieuwslijst.nl/t/3ded4, initiator=Fxc5iGuDHvMW, crawlOrder=false, depth=0, crawlDepth=0, must-match
=.*, must-not-match=, permission=true
I 2009/05/04 20:32:43 CRAWLER REMOTETRIGGEREDCRAWL[0, 0, 0, 111]: enqueued for load http://www.nieuwslijst.nl/t/3ded4 [fUIzmQZRq3OB]
I 2009/05/04 20:32:43 INDEX TRANSFER DISPATCHER enqueueContainers: selected 9 targets for primary target key 8RfgnrEBgE__/15 with 55 index containers.
I 2009/05/04 20:32:44 INDEX TRANSFER DISPATCHER enqueueContainersFromCache: splittedContainerCache enqueued to cloud array which has now 80 entries.
I 2009/05/04 20:32:44 PLASMA dhtTransferJob: result from enqueueing: true
I 2009/05/04 20:32:44 PLASMA dhtTransferJob: result from dequeueing: true
I 2009/05/04 20:32:44 INDEX TRANSFER DISPATCHER starting new index transmission request to YRfgnrEBgE__
I 2009/05/04 20:32:44 PLASMA Excluded 0 words in URL http://www.nieuwslijst.nl/t/3ded4
*** DEBUG LANGUAGE-BY-STATISTICS: http://www.nieuwslijst.nl/t/3ded4 CONFIRMED - TLD IDENTICAL: nl
E 2009/05/04 20:32:44 PLASMA re-starting IODispatcher
java.lang.IllegalThreadStateException
        at java.lang.Thread.start(Unknown Source)
        at de.anomic.plasma.plasmaWordIndex.addPageIndex(plasmaWordIndex.java:435)
        at de.anomic.plasma.plasmaWordIndex.storeDocument(plasmaWordIndex.java:562)
        at de.anomic.plasma.plasmaSwitchboard.storeDocumentIndex(plasmaSwitchboard.java:1740)
        at de.anomic.plasma.plasmaSwitchboard.storeDocumentIndex(plasmaSwitchboard.java:1722)
        at sun.reflect.GeneratedMethodAccessor18.invoke(Unknown Source)
        at sun.reflect.DelegatingMethodAccessorImpl.invoke(Unknown Source)
        at java.lang.reflect.Method.invoke(Unknown Source)
        at de.anomic.server.serverInstantBlockingThread.job(serverInstantBlockingThread.java:87)
        at de.anomic.server.serverAbstractBlockingThread.run(serverAbstractBlockingThread.java:64)
        at java.util.concurrent.Executors$RunnableAdapter.call(Unknown Source)
        at java.util.concurrent.FutureTask$Sync.innerRun(Unknown Source)
        at java.util.concurrent.FutureTask.run(Unknown Source)
        at java.util.concurrent.ThreadPoolExecutor$Worker.runTask(Unknown Source)
        at java.util.concurrent.ThreadPoolExecutor$Worker.run(Unknown Source)
        at java.lang.Thread.run(Unknown Source)
java.lang.reflect.InvocationTargetException
        at sun.reflect.GeneratedMethodAccessor18.invoke(Unknown Source)
        at sun.reflect.DelegatingMethodAccessorImpl.invoke(Unknown Source)
        at java.lang.reflect.Method.invoke(Unknown Source)
        at de.anomic.server.serverInstantBlockingThread.job(serverInstantBlockingThread.java:87)
        at de.anomic.server.serverAbstractBlockingThread.run(serverAbstractBlockingThread.java:64)
        at java.util.concurrent.Executors$RunnableAdapter.call(Unknown Source)
        at java.util.concurrent.FutureTask$Sync.innerRun(Unknown Source)
        at java.util.concurrent.FutureTask.run(Unknown Source)
        at java.util.concurrent.ThreadPoolExecutor$Worker.runTask(Unknown Source)
        at java.util.concurrent.ThreadPoolExecutor$Worker.run(Unknown Source)
        at java.lang.Thread.run(Unknown Source)
Caused by: java.lang.IllegalThreadStateException
        at java.lang.Thread.start(Unknown Source)
        at de.anomic.plasma.plasmaWordIndex.addPageIndex(plasmaWordIndex.java:435)
        at de.anomic.plasma.plasmaWordIndex.storeDocument(plasmaWordIndex.java:562)
        at de.anomic.plasma.plasmaSwitchboard.storeDocumentIndex(plasmaSwitchboard.java:1740)
        at de.anomic.plasma.plasmaSwitchboard.storeDocumentIndex(plasmaSwitchboard.java:1722)
        ... 11 more
E 2009/05/04 20:32:44 BLOCKINGTHREAD Runtime Error in serverInstantThread.job, thread 'java.lang.reflect.Method.storeDocumentIndex.17': null; target exception: null
java.lang.IllegalThreadStateException
        at java.lang.Thread.start(Unknown Source)
        at de.anomic.plasma.plasmaWordIndex.addPageIndex(plasmaWordIndex.java:435)
        at de.anomic.plasma.plasmaWordIndex.storeDocument(plasmaWordIndex.java:562)
        at de.anomic.plasma.plasmaSwitchboard.storeDocumentIndex(plasmaSwitchboard.java:1740)
        at de.anomic.plasma.plasmaSwitchboard.storeDocumentIndex(plasmaSwitchboard.java:1722)
        at sun.reflect.GeneratedMethodAccessor18.invoke(Unknown Source)
        at sun.reflect.DelegatingMethodAccessorImpl.invoke(Unknown Source)
        at java.lang.reflect.Method.invoke(Unknown Source)
        at de.anomic.server.serverInstantBlockingThread.job(serverInstantBlockingThread.java:87)
        at de.anomic.server.serverAbstractBlockingThread.run(serverAbstractBlockingThread.java:64)
        at java.util.concurrent.Executors$RunnableAdapter.call(Unknown Source)
        at java.util.concurrent.FutureTask$Sync.innerRun(Unknown Source)
        at java.util.concurrent.FutureTask.run(Unknown Source)
        at java.util.concurrent.ThreadPoolExecutor$Worker.runTask(Unknown Source)
        at java.util.concurrent.ThreadPoolExecutor$Worker.run(Unknown Source)
        at java.lang.Thread.run(Unknown Source)
I 2009/05/04 20:32:44 INDEX TRANSFER DISPATCHER Index transfer of 12 words [8RewQHOA8BaG .. YRfgnrEBgE__] and 27 URLs to peer myacy:cJHDuEvHnnAA in 0 seconds successful (20 words/s
)
I 2009/05/04 20:32:44 INDEX TRANSFER DISPATCHER Transfer finished of chunk to target cJHDuEvHnnAA/myacy
I 2009/05/04 20:32:44 INDEX TRANSFER DISPATCHER starting new index transmission request to YRfgnrEBgE__
I 2009/05/04 20:32:45 BALANCER forcing crawl-delay of 709 milliseconds for www.nieuwslijst.nl (forced latency)
I 2009/05/04 20:32:45 PLASMA Received 4 Entries 3 Words [K6tFBiBcnuHe .. K6uFSzDRLlwi]/3136389224417987756 from umEWju7oyFAA:vega-1/0.7700592, processed in 156 milliseconds, reques
ting 0/4 URLs, blocked 0 RWIs
D 2009/05/04 20:32:45 CRAWLER REMOTETRIGGEREDCRAWL[0, 0, 0, 110]: URL=http://www.nieuwslijst.nl/t/3def5, initiator=Fxc5iGuDHvMW, crawlOrder=false, depth=0, crawlDepth=0, must-match
=.*, must-not-match=, permission=true
I 2009/05/04 20:32:45 CRAWLER REMOTETRIGGEREDCRAWL[0, 0, 0, 110]: enqueued for load http://www.nieuwslijst.nl/t/3def5 [ss1sgQZRq3OB]
I 2009/05/04 20:32:45 INDEX TRANSFER DISPATCHER Index transfer of 12 words [8RewQHOA8BaG .. YRfgnrEBgE__] and 27 URLs to peer 67-244-152-186-79dpnw96:cUXYSHsMhQPI in 1 seconds succ
essful (11 words/s)
I 2009/05/04 20:32:45 INDEX TRANSFER DISPATCHER Transfer finished of chunk to target cUXYSHsMhQPI/67-244-152-186-79dpnw96
I 2009/05/04 20:32:45 INDEX TRANSFER DISPATCHER starting new index transmission request to YRfgnrEBgE__
I 2009/05/04 20:32:46 PLASMA Received 48 Entries 7 Words [LUNbcqVVtyus .. LUb2KGURvS4i]/3078720035258999528 from oZalEwe62wAA:kit-0000-4008/0.7700592, processed in 140 milliseconds
, requesting 8/48 URLs, blocked 0 RWIs
I 2009/05/04 20:32:46 PLASMA Received 8 URLs from peer oZalEwe62wAA:kit-0000-4008/0.7700592 in 0 ms, blocked 0 URLs
I 2009/05/04 20:32:46 PLASMA Excluded 0 words in URL http://www.nieuwslijst.nl/t/3def5
*** DEBUG LANGUAGE-BY-STATISTICS: http://www.nieuwslijst.nl/t/3def5 CONFLICTING: en (the language given by the TLD is nl), corrected using the TLD
E 2009/05/04 20:32:46 PLASMA re-starting IODispatcher
java.lang.IllegalThreadStateException
        at java.lang.Thread.start(Unknown Source)
        at de.anomic.plasma.plasmaWordIndex.addPageIndex(plasmaWordIndex.java:435)
        at de.anomic.plasma.plasmaWordIndex.storeDocument(plasmaWordIndex.java:562)
        at de.anomic.plasma.plasmaSwitchboard.storeDocumentIndex(plasmaSwitchboard.java:1740)
        at de.anomic.plasma.plasmaSwitchboard.storeDocumentIndex(plasmaSwitchboard.java:1722)
        at sun.reflect.GeneratedMethodAccessor18.invoke(Unknown Source)
        at sun.reflect.DelegatingMethodAccessorImpl.invoke(Unknown Source)
        at java.lang.reflect.Method.invoke(Unknown Source)
        at de.anomic.server.serverInstantBlockingThread.job(serverInstantBlockingThread.java:87)
        at de.anomic.server.serverAbstractBlockingThread.run(serverAbstractBlockingThread.java:64)
        at java.util.concurrent.Executors$RunnableAdapter.call(Unknown Source)
        at java.util.concurrent.FutureTask$Sync.innerRun(Unknown Source)
        at java.util.concurrent.FutureTask.run(Unknown Source)
        at java.util.concurrent.ThreadPoolExecutor$Worker.runTask(Unknown Source)
        at java.util.concurrent.ThreadPoolExecutor$Worker.run(Unknown Source)
        at java.lang.Thread.run(Unknown Source)
java.lang.reflect.InvocationTargetException
        at sun.reflect.GeneratedMethodAccessor18.invoke(Unknown Source)
        at sun.reflect.DelegatingMethodAccessorImpl.invoke(Unknown Source)
        at java.lang.reflect.Method.invoke(Unknown Source)
        at de.anomic.server.serverInstantBlockingThread.job(serverInstantBlockingThread.java:87)
        at de.anomic.server.serverAbstractBlockingThread.run(serverAbstractBlockingThread.java:64)
        at java.util.concurrent.Executors$RunnableAdapter.call(Unknown Source)
        at java.util.concurrent.FutureTask$Sync.innerRun(Unknown Source)
        at java.util.concurrent.FutureTask.run(Unknown Source)
        at java.util.concurrent.ThreadPoolExecutor$Worker.runTask(Unknown Source)
        at java.util.concurrent.ThreadPoolExecutor$Worker.run(Unknown Source)
        at java.lang.Thread.run(Unknown Source)
Caused by: java.lang.IllegalThreadStateException
        at java.lang.Thread.start(Unknown Source)
        at de.anomic.plasma.plasmaWordIndex.addPageIndex(plasmaWordIndex.java:435)
        at de.anomic.plasma.plasmaWordIndex.storeDocument(plasmaWordIndex.java:562)
        at de.anomic.plasma.plasmaSwitchboard.storeDocumentIndex(plasmaSwitchboard.java:1740)
        at de.anomic.plasma.plasmaSwitchboard.storeDocumentIndex(plasmaSwitchboard.java:1722)
        ... 11 more
E 2009/05/04 20:32:46 BLOCKINGTHREAD Runtime Error in serverInstantThread.job, thread 'java.lang.reflect.Method.storeDocumentIndex.17': null; target exception: null
java.lang.IllegalThreadStateException
        at java.lang.Thread.start(Unknown Source)
        at de.anomic.plasma.plasmaWordIndex.addPageIndex(plasmaWordIndex.java:435)
        at de.anomic.plasma.plasmaWordIndex.storeDocument(plasmaWordIndex.java:562)
        at de.anomic.plasma.plasmaSwitchboard.storeDocumentIndex(plasmaSwitchboard.java:1740)
        at de.anomic.plasma.plasmaSwitchboard.storeDocumentIndex(plasmaSwitchboard.java:1722)
        at sun.reflect.GeneratedMethodAccessor18.invoke(Unknown Source)
        at sun.reflect.DelegatingMethodAccessorImpl.invoke(Unknown Source)
        at java.lang.reflect.Method.invoke(Unknown Source)
        at de.anomic.server.serverInstantBlockingThread.job(serverInstantBlockingThread.java:87)
        at de.anomic.server.serverAbstractBlockingThread.run(serverAbstractBlockingThread.java:64)
        at java.util.concurrent.Executors$RunnableAdapter.call(Unknown Source)
        at java.util.concurrent.FutureTask$Sync.innerRun(Unknown Source)
        at java.util.concurrent.FutureTask.run(Unknown Source)
        at java.util.concurrent.ThreadPoolExecutor$Worker.runTask(Unknown Source)
        at java.util.concurrent.ThreadPoolExecutor$Worker.run(Unknown Source)
        at java.lang.Thread.run(Unknown Source)
I 2009/05/04 20:32:46 BALANCER forcing crawl-delay of 412 milliseconds for www.nieuwslijst.nl (forced latency)
D 2009/05/04 20:32:47 CRAWLER REMOTETRIGGEREDCRAWL[0, 0, 0, 109]: URL=http://www.nieuwslijst.nl/t/3df08, initiator=Fxc5iGuDHvMW, crawlOrder=false, depth=0, crawlDepth=0, must-match
=.*, must-not-match=, permission=true
I 2009/05/04 20:32:47 CRAWLER REMOTETRIGGEREDCRAWL[0, 0, 0, 109]: enqueued for load http://www.nieuwslijst.nl/t/3df08 [dhHUaQZRq3OB]
I 2009/05/04 20:32:47 PLASMA Excluded 0 words in URL http://www.nieuwslijst.nl/t/3df08
*** DEBUG LANGUAGE-BY-STATISTICS: http://www.nieuwslijst.nl/t/3df08 CONFIRMED - TLD IDENTICAL: nl
E 2009/05/04 20:32:47 PLASMA re-starting IODispatcher
java.lang.IllegalThreadStateException
        at java.lang.Thread.start(Unknown Source)
        at de.anomic.plasma.plasmaWordIndex.addPageIndex(plasmaWordIndex.java:435)
        at de.anomic.plasma.plasmaWordIndex.storeDocument(plasmaWordIndex.java:562)
        at de.anomic.plasma.plasmaSwitchboard.storeDocumentIndex(plasmaSwitchboard.java:1740)
        at de.anomic.plasma.plasmaSwitchboard.storeDocumentIndex(plasmaSwitchboard.java:1722)
        at sun.reflect.GeneratedMethodAccessor18.invoke(Unknown Source)
        at sun.reflect.DelegatingMethodAccessorImpl.invoke(Unknown Source)
        at java.lang.reflect.Method.invoke(Unknown Source)
        at de.anomic.server.serverInstantBlockingThread.job(serverInstantBlockingThread.java:87)
        at de.anomic.server.serverAbstractBlockingThread.run(serverAbstractBlockingThread.java:64)
        at java.util.concurrent.Executors$RunnableAdapter.call(Unknown Source)
        at java.util.concurrent.FutureTask$Sync.innerRun(Unknown Source)
        at java.util.concurrent.FutureTask.run(Unknown Source)
        at java.util.concurrent.ThreadPoolExecutor$Worker.runTask(Unknown Source)
        at java.util.concurrent.ThreadPoolExecutor$Worker.run(Unknown Source)
        at java.lang.Thread.run(Unknown Source)
java.lang.reflect.InvocationTargetException
        at sun.reflect.GeneratedMethodAccessor18.invoke(Unknown Source)
        at sun.reflect.DelegatingMethodAccessorImpl.invoke(Unknown Source)
        at java.lang.reflect.Method.invoke(Unknown Source)
        at de.anomic.server.serverInstantBlockingThread.job(serverInstantBlockingThread.java:87)
        at de.anomic.server.serverAbstractBlockingThread.run(serverAbstractBlockingThread.java:64)
        at java.util.concurrent.Executors$RunnableAdapter.call(Unknown Source)
        at java.util.concurrent.FutureTask$Sync.innerRun(Unknown Source)
        at java.util.concurrent.FutureTask.run(Unknown Source)
        at java.util.concurrent.ThreadPoolExecutor$Worker.runTask(Unknown Source)
        at java.util.concurrent.ThreadPoolExecutor$Worker.run(Unknown Source)
        at java.lang.Thread.run(Unknown Source)
Caused by: java.lang.IllegalThreadStateException
        at java.lang.Thread.start(Unknown Source)
        at de.anomic.plasma.plasmaWordIndex.addPageIndex(plasmaWordIndex.java:435)
        at de.anomic.plasma.plasmaWordIndex.storeDocument(plasmaWordIndex.java:562)
        at de.anomic.plasma.plasmaSwitchboard.storeDocumentIndex(plasmaSwitchboard.java:1740)
        at de.anomic.plasma.plasmaSwitchboard.storeDocumentIndex(plasmaSwitchboard.java:1722)
        ... 11 more
E 2009/05/04 20:32:47 BLOCKINGTHREAD Runtime Error in serverInstantThread.job, thread 'java.lang.reflect.Method.storeDocumentIndex.17': null; target exception: null
java.lang.IllegalThreadStateException
        at java.lang.Thread.start(Unknown Source)
        at de.anomic.plasma.plasmaWordIndex.addPageIndex(plasmaWordIndex.java:435)
        at de.anomic.plasma.plasmaWordIndex.storeDocument(plasmaWordIndex.java:562)
        at de.anomic.plasma.plasmaSwitchboard.storeDocumentIndex(plasmaSwitchboard.java:1740)
        at de.anomic.plasma.plasmaSwitchboard.storeDocumentIndex(plasmaSwitchboard.java:1722)
        at sun.reflect.GeneratedMethodAccessor18.invoke(Unknown Source)
        at sun.reflect.DelegatingMethodAccessorImpl.invoke(Unknown Source)
        at java.lang.reflect.Method.invoke(Unknown Source)
        at de.anomic.server.serverInstantBlockingThread.job(serverInstantBlockingThread.java:87)
        at de.anomic.server.serverAbstractBlockingThread.run(serverAbstractBlockingThread.java:64)
        at java.util.concurrent.Executors$RunnableAdapter.call(Unknown Source)
        at java.util.concurrent.FutureTask$Sync.innerRun(Unknown Source)
        at java.util.concurrent.FutureTask.run(Unknown Source)
        at java.util.concurrent.ThreadPoolExecutor$Worker.runTask(Unknown Source)
        at java.util.concurrent.ThreadPoolExecutor$Worker.run(Unknown Source)
        at java.lang.Thread.run(Unknown Source)
I 2009/05/04 20:32:48 BALANCER forcing crawl-delay of 202 milliseconds for www.nieuwslijst.nl (forced latency)


*-*-*-*-*-*-*-*-*-

Peer Nr. 3 - Linux 64Bit - SVN 5920 läuft ohne IODispatcher Probleme.
bluumi
 
Beiträge: 388
Registriert: Mi Okt 08, 2008 7:27 am

Re: IODispatcher terminating run job

Beitragvon bluumi » Mo Mai 04, 2009 8:34 pm

Peer 1 - Habe ich downgraded und merge damit weiter die vielen Blob Dateien.

---

Peer 2 - ist zu beobachten, dass es nach dem Start eine .tmp erzeugt aber dann nie (auch über 45 min) keine weitere Datei verändert. Keine Datei trägt ein Datum älter als das Datum des Yacy Starts. Erst beim Stopen von Yacy werden Dateien erzeugt.
bluumi
 
Beiträge: 388
Registriert: Mi Okt 08, 2008 7:27 am

Re: IODispatcher terminating run job

Beitragvon Orbiter » Mo Mai 04, 2009 10:39 pm

sixcoolers trace zeigt jetzt wo der IODispatcher früher gecrasht ist und man nicht sah wo. Hab die Stelle nun gefixt.
bluumis trace zeigt meinen erfolglosen Versuch den IODispatcher wieder neu zu starten, das geht aber nicht. Hab den neustart entfernt.
Fix in SVN 5921
Orbiter
 
Beiträge: 5798
Registriert: Di Jun 26, 2007 10:58 pm
Wohnort: Frankfurt am Main

Re: IODispatcher terminating run job

Beitragvon sixcooler » Mo Mai 04, 2009 11:51 pm

superbesten Dank!

Leider ist SVN 5921 zu mindest bei mir nur ein Teilerfolg:
Mittlerweile hatte ich 2 blobs temporär herausnehmen müssen von denen eines nun wunderbar gemerged wurde, das andere brachte den IODipatcher zu fall - ohne irgendeine Meldung.
Dateianhänge
yacy00.log.gz
(13.43 KiB) 37-mal heruntergeladen
sixcooler
 
Beiträge: 494
Registriert: Do Aug 14, 2008 5:22 pm

Re: IODispatcher terminating run job

Beitragvon sixcooler » Di Mai 05, 2009 12:19 pm

SVN 5922 brachte leider keine neuen erkenntnisse - falls es u.a. hierauf abziehlte.
Ich stelle dieses blob-file auch gerne zur Verfügung wenn da Interesse besteht.
sixcooler
 
Beiträge: 494
Registriert: Do Aug 14, 2008 5:22 pm

Re: IODispatcher terminating run job

Beitragvon Orbiter » Di Mai 05, 2009 12:50 pm

SVN 5922 betrifft nicht den IODispatcher, aber alle anderen Threads, um hier die Erfahrung dass gecrashte Threads ohne einen 'catch Exception' klang- und sanglos verschwinden, anzuwenden. Ich hab da halt überall noch mal so einen catch dran gemacht.
Orbiter
 
Beiträge: 5798
Registriert: Di Jun 26, 2007 10:58 pm
Wohnort: Frankfurt am Main

Re: IODispatcher terminating run job

Beitragvon sixcooler » Mi Mai 06, 2009 8:03 pm

ohne nerven zu wollen - nur so als Info:
Code: Alles auswählen
E 2009/05/06 20:55:57 IODispatcher main run job had errors (2), dump to /opt/yacy/DATA/INDEX/freeworld/TEXT/RICELL/index.20090506185534250.blob failed. Input files are /opt/yacy/DATA/INDEX/freeworld/TEXT/RICELL/index.20090504222821487.blob and /opt/yacy/DATA/INDEX/freeworld/TEXT/RICELL/index.20090506185458004.blob
java.lang.ArrayIndexOutOfBoundsException: -11422
   at de.anomic.kelondro.order.Base64Order.compares(Base64Order.java:504)
   at de.anomic.kelondro.order.Base64Order.compare0(Base64Order.java:433)
   at de.anomic.kelondro.order.Base64Order.compare(Base64Order.java:426)
   at de.anomic.kelondro.index.RowSet.mergeEnum(RowSet.java:435)
   at de.anomic.kelondro.index.RowSet.merge(RowSet.java:389)
   at de.anomic.kelondro.text.ReferenceContainer.merge(ReferenceContainer.java:105)
   at de.anomic.kelondro.blob.BLOBArray.merge(BLOBArray.java:643)
   at de.anomic.kelondro.blob.BLOBArray.mergeWorker(BLOBArray.java:595)
   at de.anomic.kelondro.blob.BLOBArray.mergeMount(BLOBArray.java:564)
   at de.anomic.kelondro.text.IODispatcher$MergeJob.merge(IODispatcher.java:239)
   at de.anomic.kelondro.text.IODispatcher.run(IODispatcher.java:160)

(svn 5929)
sixcooler
 
Beiträge: 494
Registriert: Do Aug 14, 2008 5:22 pm

Re: IODispatcher terminating run job

Beitragvon sixcooler » Do Mai 07, 2009 9:06 pm

Ohne das ich eine Ahnung habe wie, mergte das blob, welches beim letzten Fehler scheiterte.
Ohne Änderungen am yacy: yacy beenden, blob hinein, yacy starten und mergte!
die Parrung war nahezu die gleiche - bis auf das das kleinere blob, welches ich nicht herausgenommen hatte, etwas angewachsen ist.
Als Änderung am (Betriebs-)System fällt mir ein das ich hierbei kein Swap aktiviert hatte - keine Ahnung ob dieses etwas zur Sache tut (wurde eh kaum genutzt).

Besten Dank, sixcooler.
sixcooler
 
Beiträge: 494
Registriert: Do Aug 14, 2008 5:22 pm

Re: IODispatcher terminating run job

Beitragvon bluumi » Do Mai 07, 2009 9:24 pm

die 4! Blobs, welche es bei mir zuvor den Absturz machten als ich noch ü1000 Blobs hatte, konnte ich am Ende als ich u40 Blobs hatte auch reinkopieren.
Ich stell mir vor dass es auch bei dir beim Hinein kopieren bereits weniger Blobs hatte. ;)
bluumi
 
Beiträge: 388
Registriert: Mi Okt 08, 2008 7:27 am


Zurück zu Fragen und Antworten

Wer ist online?

Mitglieder in diesem Forum: 0 Mitglieder und 1 Gast

cron