Grenzen für Influx DB

[jensner]

Hab grad nochmal im Syslog nachgesehen und finde hier immer ähnliche Einträge wie diesen:

Code: Alles auswählen

Feb 27 08:29:12 solaranzeige influxd[9189]: ts=2025-02-27T07:29:12.465725Z lvl=info msg="Reading file" log_id=0uy_mM7l000 engine=tsm1 service=cacheloader path=/var/lib/influxdb/wal/seplosakkuprivat/autogen/1128/_00001.wal size=6464510
Feb 27 08:29:12 solaranzeige Node-RED[552]: 27 Feb 08:29:12 - [error] [influxdb out:total_voltage] Error: No host available
Feb 27 08:29:13 solaranzeige Node-RED[552]: 27 Feb 08:29:13 - [error] [influxdb out:Zelle_01_V] Error: No host available
Feb 27 08:29:13 solaranzeige Node-RED[552]: 27 Feb 08:29:13 - [error] [influxdb out:Zelle_02_V] Error: No host available
Feb 27 08:29:13 solaranzeige Node-RED[552]: 27 Feb 08:29:13 - [error] [influxdb out:Zelle_03_V] Error: No host available
Feb 27 08:29:13 solaranzeige Node-RED[552]: 27 Feb 08:29:13 - [error] [influxdb out:Zelle_04_V] Error: No host available
Feb 27 08:29:13 solaranzeige Node-RED[552]: 27 Feb 08:29:13 - [error] [influxdb out:Zelle_05_V] Error: No host available
Feb 27 08:29:13 solaranzeige Node-RED[552]: 27 Feb 08:29:13 - [error] [influxdb out:Zelle_06_V] Error: No host available
Feb 27 08:29:13 solaranzeige Node-RED[552]: 27 Feb 08:29:13 - [error] [influxdb out:Zelle_07_V] Error: No host available
Feb 27 08:29:13 solaranzeige Node-RED[552]: 27 Feb 08:29:13 - [error] [influxdb out:Zelle_08_V] Error: No host available
Feb 27 08:29:13 solaranzeige Node-RED[552]: 27 Feb 08:29:13 - [error] [influxdb out:Zelle_09_V] Error: No host available
Feb 27 08:29:13 solaranzeige Node-RED[552]: 27 Feb 08:29:13 - [error] [influxdb out:Zelle_10_V] Error: No host available
Feb 27 08:29:13 solaranzeige Node-RED[552]: 27 Feb 08:29:13 - [error] [influxdb out:Zelle_11_V] Error: No host available
Feb 27 08:29:13 solaranzeige Node-RED[552]: 27 Feb 08:29:13 - [error] [influxdb out:Zelle_12_V] Error: No host available
Feb 27 08:29:13 solaranzeige Node-RED[552]: 27 Feb 08:29:13 - [error] [influxdb out:Zelle_13_V] Error: No host available
Feb 27 08:29:13 solaranzeige Node-RED[552]: 27 Feb 08:29:13 - [error] [influxdb out:Zelle_14_V] Error: No host available
Feb 27 08:29:13 solaranzeige Node-RED[552]: 27 Feb 08:29:13 - [error] [influxdb out:Zelle_15_V] Error: No host available
Feb 27 08:29:13 solaranzeige Node-RED[552]: 27 Feb 08:29:13 - [error] [influxdb out:Zelle_16_V] Error: No host available
Feb 27 08:29:13 solaranzeige Node-RED[552]: 27 Feb 08:29:13 - [error] [influxdb out:min_cell_voltage] Error: No host available
Feb 27 08:29:13 solaranzeige Node-RED[552]: 27 Feb 08:29:13 - [error] [influxdb out:max_cell_voltage] Error: No host available
Feb 27 08:29:13 solaranzeige Node-RED[552]: 27 Feb 08:29:13 - [error] [influxdb out:max_voltage_cell] Error: No host available
Feb 27 08:29:13 solaranzeige Node-RED[552]: 27 Feb 08:29:13 - [error] [influxdb out:delta_cell_voltage] Error: No host available
Feb 27 08:29:13 solaranzeige Node-RED[552]: 27 Feb 08:29:13 - [error] [influxdb out:average_cellvoltage] Error: No host available

Immer kurz nach der Zeile mit der Dateigröße (.wal) ist der Host nicht mehr erreichbar.
Dabei sind immer wieder andere Dateien betroffen, also nicht immer die gleiche.
Das spricht für mich für ein anderes Problem als die SSD.

Hier mal ein grep nach ".wal"

Code: Alles auswählen

Feb 27 08:35:57 solaranzeige influxd[9741]: ts=2025-02-27T07:35:57.408077Z lvl=info msg="Reading file" log_id=0uyaB6Z0000 engine=tsm1 service=cacheloader path=/var/lib/influxdb/wal/_internal/monitor/1124/_00001.wal size=1205050
Feb 27 08:35:58 solaranzeige influxd[9741]: ts=2025-02-27T07:35:58.601404Z lvl=info msg="Reading file" log_id=0uyaB6Z0000 engine=tsm1 service=cacheloader path=/var/lib/influxdb/wal/deye12kwladen/autogen/1126/_00001.wal size=323840
Feb 27 08:35:58 solaranzeige influxd[9741]: ts=2025-02-27T07:35:58.613851Z lvl=info msg="Reading file" log_id=0uyaB6Z0000 engine=tsm1 service=cacheloader path=/var/lib/influxdb/wal/deye12kwladen/autogen/1116/_00001.wal size=13599573
Feb 27 08:35:59 solaranzeige influxd[9741]: ts=2025-02-27T07:35:59.207186Z lvl=info msg="Reading file" log_id=0uyaB6Z0000 engine=tsm1 service=cacheloader path=/var/lib/influxdb/wal/deye12kwprivat/autogen/1112/_00001.wal size=11247858
Feb 27 08:35:59 solaranzeige influxd[9741]: ts=2025-02-27T07:35:59.211404Z lvl=info msg="Reading file" log_id=0uyaB6Z0000 engine=tsm1 service=cacheloader path=/var/lib/influxdb/wal/deye12kwprivat/autogen/1132/_00001.wal size=14610
Feb 27 08:36:00 solaranzeige influxd[9741]: ts=2025-02-27T07:36:00.726406Z lvl=info msg="Reading file" log_id=0uyaB6Z0000 engine=tsm1 service=cacheloader path=/var/lib/influxdb/wal/neeyla1/autogen/1118/_00001.wal size=23041551
Feb 27 08:36:02 solaranzeige influxd[9741]: ts=2025-02-27T07:36:02.251482Z lvl=info msg="Reading file" log_id=0uyaB6Z0000 engine=tsm1 service=cacheloader path=/var/lib/influxdb/wal/neeyla1/autogen/1130/_00001.wal size=1676176
Feb 27 08:36:04 solaranzeige influxd[9741]: ts=2025-02-27T07:36:04.607743Z lvl=info msg="Reading file" log_id=0uyaB6Z0000 engine=tsm1 service=cacheloader path=/var/lib/influxdb/wal/neeyla2/autogen/1114/_00001.wal size=22706774
Feb 27 08:36:04 solaranzeige influxd[9741]: ts=2025-02-27T07:36:04.621710Z lvl=info msg="Reading file" log_id=0uyaB6Z0000 engine=tsm1 service=cacheloader path=/var/lib/influxdb/wal/neeyla2/autogen/1129/_00001.wal size=1747097
Feb 27 08:36:06 solaranzeige influxd[9741]: ts=2025-02-27T07:36:06.063365Z lvl=info msg="Reading file" log_id=0uyaB6Z0000 engine=tsm1 service=cacheloader path=/var/lib/influxdb/wal/neeypa1/autogen/1113/_00002.wal size=20670837
Feb 27 08:36:06 solaranzeige influxd[9741]: ts=2025-02-27T07:36:06.068130Z lvl=info msg="Reading file" log_id=0uyaB6Z0000 engine=tsm1 service=cacheloader path=/var/lib/influxdb/wal/neeypa1/autogen/1131/_00001.wal size=1643327
Feb 27 08:36:07 solaranzeige influxd[9741]: ts=2025-02-27T07:36:07.370227Z lvl=info msg="Reading file" log_id=0uyaB6Z0000 engine=tsm1 service=cacheloader path=/var/lib/influxdb/wal/neeypa2/autogen/1117/_00001.wal size=23114594
Feb 27 08:36:09 solaranzeige influxd[9741]: ts=2025-02-27T07:36:09.428228Z lvl=info msg="Reading file" log_id=0uyaB6Z0000 engine=tsm1 service=cacheloader path=/var/lib/influxdb/wal/neeypa2/autogen/1127/_00001.wal size=1689741
Feb 27 08:36:10 solaranzeige influxd[9741]: ts=2025-02-27T07:36:10.530905Z lvl=info msg="Reading file" log_id=0uyaB6Z0000 engine=tsm1 service=cacheloader path=/var/lib/influxdb/wal/neeypa3/autogen/1111/_00001.wal size=20283948
Feb 27 08:36:11 solaranzeige influxd[9741]: ts=2025-02-27T07:36:11.793501Z lvl=info msg="Reading file" log_id=0uyaB6Z0000 engine=tsm1 service=cacheloader path=/var/lib/influxdb/wal/seplosakkuladen/autogen/1115/_00001.wal size=11553815
Feb 27 08:36:11 solaranzeige influxd[9741]: ts=2025-02-27T07:36:11.796348Z lvl=info msg="Reading file" log_id=0uyaB6Z0000 engine=tsm1 service=cacheloader path=/var/lib/influxdb/wal/seplosakkuladen/autogen/1133/_00001.wal size=2622321
Feb 27 08:36:13 solaranzeige influxd[9741]: ts=2025-02-27T07:36:13.449378Z lvl=info msg="Reading file" log_id=0uyaB6Z0000 engine=tsm1 service=cacheloader path=/var/lib/influxdb/wal/seplosakkuprivat/autogen/1110/_00001.wal size=19086870
Feb 27 08:36:13 solaranzeige influxd[9741]: ts=2025-02-27T07:36:13.791875Z lvl=info msg="Reading file" log_id=0uyaB6Z0000 engine=tsm1 service=cacheloader path=/var/lib/influxdb/wal/seplosakkuprivat/autogen/1128/_00001.wal size=6464510
Feb 27 08:36:26 solaranzeige influxd[9800]: ts=2025-02-27T07:36:26.300088Z lvl=info msg="Reading file" log_id=0uyaCtpl000 engine=tsm1 service=cacheloader path=/var/lib/influxdb/wal/_internal/monitor/1125/_00001.wal size=1205260
Feb 27 08:36:26 solaranzeige influxd[9800]: ts=2025-02-27T07:36:26.465948Z lvl=info msg="Reading file" log_id=0uyaCtpl000 engine=tsm1 service=cacheloader path=/var/lib/influxdb/wal/_internal/monitor/1124/_00001.wal size=1205050
Feb 27 08:36:27 solaranzeige influxd[9800]: ts=2025-02-27T07:36:27.376337Z lvl=info msg="Reading file" log_id=0uyaCtpl000 engine=tsm1 service=cacheloader path=/var/lib/influxdb/wal/deye12kwladen/autogen/1116/_00001.wal size=13599573
Feb 27 08:36:27 solaranzeige influxd[9800]: ts=2025-02-27T07:36:27.856106Z lvl=info msg="Reading file" log_id=0uyaCtpl000 engine=tsm1 service=cacheloader path=/var/lib/influxdb/wal/deye12kwladen/autogen/1126/_00001.wal size=323840
Feb 27 08:36:28 solaranzeige influxd[9800]: ts=2025-02-27T07:36:28.991584Z lvl=info msg="Reading file" log_id=0uyaCtpl000 engine=tsm1 service=cacheloader path=/var/lib/influxdb/wal/deye12kwprivat/autogen/1112/_00001.wal size=11247858
Feb 27 08:36:29 solaranzeige influxd[9800]: ts=2025-02-27T07:36:28.995561Z lvl=info msg="Reading file" log_id=0uyaCtpl000 engine=tsm1 service=cacheloader path=/var/lib/influxdb/wal/deye12kwprivat/autogen/1132/_00001.wal size=14610
Feb 27 08:36:30 solaranzeige influxd[9800]: ts=2025-02-27T07:36:30.507420Z lvl=info msg="Reading file" log_id=0uyaCtpl000 engine=tsm1 service=cacheloader path=/var/lib/influxdb/wal/neeyla1/autogen/1118/_00001.wal size=23041551
Feb 27 08:36:30 solaranzeige influxd[9800]: ts=2025-02-27T07:36:30.948331Z lvl=info msg="Reading file" log_id=0uyaCtpl000 engine=tsm1 service=cacheloader path=/var/lib/influxdb/wal/neeyla1/autogen/1130/_00001.wal size=1676176
Feb 27 08:36:33 solaranzeige influxd[9800]: ts=2025-02-27T07:36:33.305889Z lvl=info msg="Reading file" log_id=0uyaCtpl000 engine=tsm1 service=cacheloader path=/var/lib/influxdb/wal/neeyla2/autogen/1114/_00001.wal size=22706774
Feb 27 08:36:33 solaranzeige influxd[9800]: ts=2025-02-27T07:36:33.515744Z lvl=info msg="Reading file" log_id=0uyaCtpl000 engine=tsm1 service=cacheloader path=/var/lib/influxdb/wal/neeyla2/autogen/1129/_00001.wal size=1747097
Feb 27 08:36:35 solaranzeige influxd[9800]: ts=2025-02-27T07:36:35.473314Z lvl=info msg="Reading file" log_id=0uyaCtpl000 engine=tsm1 service=cacheloader path=/var/lib/influxdb/wal/neeypa1/autogen/1131/_00001.wal size=1643327
Feb 27 08:36:35 solaranzeige influxd[9800]: ts=2025-02-27T07:36:35.490043Z lvl=info msg="Reading file" log_id=0uyaCtpl000 engine=tsm1 service=cacheloader path=/var/lib/influxdb/wal/neeypa1/autogen/1113/_00002.wal size=20670837

Man sieht, dass es im Grunde bei jeder Datei auftritt.
Gruß Jens

[jensner]

Nach weiterer Recherche im Netz bin ich auf folgenden Beitrag gestoßen, welcher exakt auf mein Problem zutrifft:
https://github.com/influxdata/influxdb/issues/19499

Code: Alles auswählen

pi@solaranzeige:~ $ sudo netstat -tulpn | grep LISTEN |grep influx
tcp        0      0 127.0.0.1:8088          0.0.0.0:*               LISTEN      3526/influxd
tcp6       1      0 :::8086                 :::*                    LISTEN      3526/influxd

Wenn ich die Settings in der Influx Konsole aufrufe, steht da 8086

Code: Alles auswählen

Setting           Value
--------          --------
Host              localhost:8086
Username
Database
RetentionPolicy
Pretty            false
Format            column
Write Consistency all
Chunked           true
Chunk Size        0

Sehe ich das richtig, dass meine influxdb auf Port 8088 lauscht und das eigentlich der 8086 sein sollte oder ist das in diesem Fall etwas Anderes?

[jensner]

OK, mit dem Befehl

Code: Alles auswählen

sudo netstat -lnp | grep 8086

finde ich auch 6550/influxd

Jedoch kann ich hier schön beobachten, dass dieser Befehl mal ein Ergebnis liefert und dann ein paar Sekunden mal wieder nicht.
Dies lässt vermuten, dass der Service hier ständig up und mal wieder down ist.

Hab nochmal im syslog nach influx gesucht und das gefunden.

Code: Alles auswählen

pi@solaranzeige:/var/log $ tail -f syslog | grep error
Feb 27 09:49:51 solaranzeige influxd[7038]: fatal error: out of memory

Welchen memory meint er denn hier?
SSD kanns ja eigentlich nicht sein.
Somit wären wir doch wieder beim Arbeitsspeicher des Raspberry 4
Womit @schlmich exakt den Punkt getroffen hätte.
Stellt sich nur die Frage nach der Lösung.
Beim Raspberry ist ja nix mit RAM aufrüsten, oder doch?

Vermutlich wird die Lösung einfach darin liegen, vom Raspberry auf einen kleinen Lenovo ThinkCentre oder ähnliches umzusteigen.

[jensner]

So, letzter Akt in diesem Drama.
Ich habe mir bei Ebay nen Lenovo ThinkCentre M710q - i3 6100T 3,2 Ghz ,8 GB DDR4 , 128 GB SSD für 65€ bei Ebay geschossen.
Debian 12 drauf und nach Anleitung viewtopic.php?t=4419 installiert.

Die alten Konfigfiles + Node-Red Flows und Grafana Dashboards sowie die diversen Config-Files konnte ich quasi übernehmen.
Nach, für meinen Debian-Kenntnisstand, sehr überschaubaren Komplikationen läuft mittlerweile alles prächtig (4 RS485USB Adapter für 2 WR und 5 Seplos + Node-Red für 5 ERP32 für 5 NeeYs)

Code: Alles auswählen

 Static hostname: solaranzeige
       Icon name: computer-desktop
         Chassis: desktop <F0><9F><96><A5><EF><B8><8F>
      Machine ID: 087c5c33c0b74960a7c0ffbb9ecbbe35
         Boot ID: 9ed8b707d6694d1b8eb4ef61f820d763
Operating System: Debian GNU/Linux 12 (bookworm)
          Kernel: Linux 6.1.0-31-amd64
    Architecture: x86-64
 Hardware Vendor: Lenovo
  Hardware Model: ThinkCentre M710q
Firmware Version: M1AKT33A

RAM hab ich gleich noch auf 16GB (2 x 8GB) aufgerüstet und fertig ist die Hütte.

Code: Alles auswählen

               total        used        free      shared  buff/cache   available
Mem:        16262728     1188112    14436460       30136      947576    15074616
Swap:         999420           0      999420

Hoffen wir, dass es jetzt von Dauer ist.
Gruß Jens

[antaril]

Läuft deine neue Version für x86? Habe auch immer wieder influx Fehler. Habe schon ein Skript geschrieben das erkennt wenn influx nicht mehr erreichbar ist, es neu installiert und Backup einspielt, aber das ist ja nicht das Problem beheben. Ne Zeitlang lief das super. Aktuell jede Woche min einmal. Schreibe allerdings auch viele Werte und mehrere Datenbanken.

[jensner]

Hi,

jep, läuft bis dato völlig problemlos.
Würde ich jederzeit wieder so machen.
Die Systemgrenzen vom Raspberry bzgl. RAM sind leider da und, soweit ich das überblicke, nicht änderbar.
Der kleine ThinkCentre braucht jetzt auch nicht wirklich so viel Strom, ist beliebig erweiterbar und benötigt auch nur unwesentlich mehr Platz.

Gruß Jens

[sh9wito1]

Da hier in diesem Beitrag nach einem Beispiel für eine Datensicherung gefragt wurde.
Anbei zwei Scripts mit denen ich meine wichtigsten Raspi Konfigfiles und die influxdb sichere.
Ziel ist das kleine NAS meiner Fritzbox.

Viele Grüße Towi

[jensner]

Hi Towi,

vielen Dank.
Ich werde das mal durch ackern und für mich anpassen

Gruß Jens