Implement automatic spam detection and banning feature

[twobiers]

Das ist ne kurze gevibecodete idee. Ich schau mir das später nochmal genauer an, glaube die Scores machen so noch nicht richtig Sinn.

Idee:

• Wir machen einen Anomalie-Score für neue User um Spam-Bots zu identifizieren
• Es muss ein Threshold erreicht werden
• Dann folgt Message Delete + Ban
• Zur Sicherheit bannen wir nicht über die Discord-Funktion, sondern über unser Ban, dann kann ein irrtümlicher Ban aufgehoben werden
• Nachrichten werden in einen für Mods (+Devs?) zugänglichen Channel geschrieben für Audit-Zwecke

Feedback nehme ich aber gerne schonmal.

[github-actions]

Hallo, hier kannst du jetzt deine tolle neue Funktion testen: https://discord.gg/pJjfF6n2ec

[twobiers]

Bin mir noch nicht sicher ob die Scores und die Thresholds so passen, aber konzeptuell sollte jetzt alles da sein.

[twobiers]

Alternative/Ergänzung: Honeypot-Channel.

[5yn74x]

Alternative/Ergänzung: Honeypot-Channel.

Finde ich gut, nur weiß ich nicht woran ein Bot die zu spammenden Kanäle auswählt.
Ist der Bot Context-Aware, könnte er die Warnhinweise erkennen.

Wäre der Honeypot in einem Spam-Kanal, wo wir als normale User regelmäßig unterschiedlichen Content erstellen, käme der Honeypot natürlicher rüber. Das wäre dann in Verbindung mit dem Scoring mMn eine gute Methode.

[holzmaster]

Vielleicht erstmal im dry-mode mit Mod-Ping, statt autoban? Ansonsten ok

[SoraTenshi]

Wollen wir wirklich einen fixen autoban haben?
Das wäre nämlich ziemlich scheiße bei false-positives.

Wäre dafür nicht so ne art "containment" zone / rolle ideal(er)?
Autodelete von nachrichten der letzten ~24 hrs, containment rolle & einsicht auf einen "autoban" channel.

thoughts?

[twobiers]

Wäre dafür nicht so ne art "containment" zone / rolle ideal(er)?
Autodelete von nachrichten der letzten ~24 hrs, containment rolle & einsicht auf einen "autoban" channel.

@SoraTenshi Genau das ist effektiv der PR. Wir bannen nicht vom Server sondern weisen die banned rolle zu. Der Grund wieso der User gebannt wurde, wird geloggt und ist auditbar.

Vielleicht erstmal im dry-mode mit Mod-Ping, statt autoban? Ansonsten ok

@holzmaster Vielleicht. Glaube ein Ping hilft uns nicht so viel weiter, muss sich ja auch wer verantwortlich füheln den Code anzupassen. Aber vielleicht das bannen erstmal hinter ne Feature Flag hängen.