JNI natif -> Java - appeler java depuis une fonction callback???

Il y a toute une série de fonctions associées dans l'API :
SendMessage() // à une fenêtre, attend la réponse
PostThreadMessage() // à un thread , retourne immédiatement
...

Le mieux serait je pense, si tu n'as pas besoin de réponse du programme source, d'utiliser PostThreadMessage(), parce que SendMessage s'adresse à une fenêtre donc si tu n'en n'as pas...
Tu peux définir tes messages personnalisés à partir de WM_USER, par exemple :
#define WM_PERSO_0 (WM_USER+2)
etc...

Par contre du coup dans ton programme source tu devras avoir une boucle de récupération de message.
Je ne sais pas si tu y es familier, dans le cas contraire :

MSG msg;
msg.message=WM_NULL;
while(msg.message!=WM_PERSO_QUIT) // par exemple
{
       GetMessage(&msg,NULL,WM_NULL,WM_NULL);
       switch(msg.message)
      {
            case WM_PERSO_0:
             ...
      }
}
Simple à comprendre : GetMessage() récupère les messages dans la file du thread, et tu boucles tant que tu n'as pas reçu l'ordre de sortir (WM_PERSO_QUIT). Par contre, faudra penser à le donner, cet ordre, depuis ton hook! Par exemple si l'application hookée se termine etc... Bien sûr tu peux mettre n'importe quelle autre condition dans le while à la place du message quitter, genre un temps limite...


La fonction PostThreadMessage() a besoin de l'ID du thread auquel envoyer le message, ce qui veut dire que tu dois lui passer cette information : c'est là qu'intervient CreateFileMapping() et compagnie.
Tu pourras récupérer l'ID du thread de ton programme source, par exemple avant d'installer le hook, par GetCurrentThreadId().


Bon si tu veux un exemple concret j'avais déposé une source de hook sur le notepad, où tu pourras trouver mémoire partagée, hooks et envoi de messages entre callback du hook et programme principal.
http://www.cppfrance.com/codes/PERSONNALISER-APP-CHANGER-COULEUR-POLICE-NOTEPAD_44037.aspx
Il y en a plein d'autres sur le site.