Zu deinen Fragen:
Einen Gitarrenverstärker als Keyboardamp?
Nein! Also du kannst es machen, wirst aber keine grosse Freude daran haben. Ein Gitarrenverstärker ist dazu da, einen charakterisitischen Klang, insbesondere inkl. Verzerrung, für die Gitarre zu erzeugen - also das genaue Gegenteil von einem PA/Keyboard-Amp, bei dem du einen möglichst sauberen, neutralen Klang haben willst.
Wobei der AVT50 als Transistoramp noch recht neutral ist, und wenn du den Clean-Kanal ohne Zerre oder zu grosse Lautstärke nimmst, kommt möglicherweise etwas halbwegs brauchbares heraus. Glaube nicht, dass dich das mit dem Keyboard glücklich machen wird, aber einen Versuch ist es wert.
Verstärker am Kopfhörer-Ausgang?
Jein! Im Prinzip ist ein Kopfhörer-Ausgang auch nur ein Ausgang, könnte man also einen Verstärker dran anschliessen. Allerdings ist der Pegel daran sehr unterschiedlich zu einem LineOut-Pegel, weil er ja für Kopfhörer, d.h. ohne nochmalige Verstärkung, gedacht ist. Mal (vorsichtig vor Übersteuerungen!) ausprobieren, aber wahrscheinlich sind andere Lösungen besser (Splitter, oder Kabel in Monitor und von dort in die PA duchschleifen etc).