<div dir="ltr">Hi Vitali,<div><br></div><div>well luckily cuda saved me from having any penalties - since i do rgb to nv12 on cuda it actually does not matter if take the pixels from top or from bottom:D If I manage to get our university to a stable spot then (currently I am experiencing hangs with Windows 10 and the OpenGL redirection but I wont bother anyone here till I've gathered some adequate evidence) yeah, I can try to provide a patch for this:) As I said, it is simply an inconvenience not a show stopper so I can live with this.</div></div><div class="gmail_extra"><br><div class="gmail_quote">2016-05-19 21:48 GMT+03:00 Vitali Pelenjow <span dir="ltr"><<a href="mailto:Vitali.Pelenjow@oracle.com" target="_blank">Vitali.Pelenjow@oracle.com</a>></span>:<br><blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex">Hi Rudolfs,<br>
<br>
H3DOR_FMT_RGBA was added as a placeholder for a possible optimization.<br>
Exactly as you said to avoid additional conversion to _TOPDOWN.<br>
However it was  never implemented  in display_vrdp.cpp. I.e. only the<br>
ConsoleVRDPServer side has been implemented.<br>
<br>
You could try to implement H3DOR_FMT_RGBA.<br>
I do not think anyone here has time for this in near future.<br>
<br>
Thanks,<br>
Vitali.<br>
<br>
Rūdolfs Bundulis wrote:<br>
<blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex"><div><div class="h5">
Hi,<br>
<br>
While implementing 3D redirection in my framebuffer I think I've discovered a bug - the H3DOR_FMT_RGBA format is not handled properly. If you look at display_vrdp.cpp:345 then if the returned strings do not match H3DOR_FMT_RGBA_TOPDOWN then successful return code is returned but the initialization functions are called which results in my framebuffer getting a null pointer in all the instance parameters passed to the calls. I guess since the vrdp server sets both everything goes fine and only issues can be experienced with external framebuffers.<br>
<br>
What is more interesting to me - is H3DOR_FMT_RGBA going to be supported? I am mixing the contents of the GPU framebuffer and the offscreen OpenGl surface and having to rotate the latter makes a bit of an inconvenience<br>
<br>
Best Regards,<br>
Rudolfs Bundulis<br>
<br>
<br></div></div>
_______________________________________________<br>
vbox-dev mailing list<br>
<a href="mailto:vbox-dev@virtualbox.org" target="_blank">vbox-dev@virtualbox.org</a><br>
<a href="https://www.virtualbox.org/mailman/listinfo/vbox-dev" rel="noreferrer" target="_blank">https://www.virtualbox.org/mailman/listinfo/vbox-dev</a><br>
</blockquote>
<br>
</blockquote></div><br></div>