这种需求的场景是什么，你的设备是什么类型，类似路由器的网关设备？
听你需求，很像是 NAT 设备，在 A 上面暴露服务，然后转发到 B 网段。
这种情况下由于 A B 网段的路由不同，做一个 DNAT ，指向 B 的网段就实现了。

你的 A 有公网 IP ，流量能进来的前提是对方的目的 IP 是 A 的 IP ，而你要转到内网，就需要修改目的 IP 吧。

最好说一下具体的应用场景这样才好制定对策。
如果单纯的听你描述是一个特定条件选路的场景（我有点想象不出来具体应用方式），可能是策略路由去解决。
1. A 网卡 B 网卡使用策略路由表，每个网卡单独一张表，例如 A 网卡策略路由表 id 100 B 网卡 id 200
2. 在 iptables NAT 表 prerouting 链对会话打标记 例如 0x8888
3. 然后把 ip rule 里面根据 mark 去选择路由表
4. 注意 rp_filter 参数的调整，要开启松散反向路由的限制。
5. 还得注意反向流的问题